Hacker lạm dụng ChatGPT, nếu AI có ý thức như con người sẽ càng đáng sợ hơn

Chia sẻ Facebook

Khi công nghệ trí tuệ nhân tạo (AI) chiếm lĩnh thế giới như một cơn bão. Một báo cáo mới cho thấy, các cuộc tấn công mạng toàn cầu đã tăng 8% trong quý 2 năm nay. Ngoài ra, cuộc thảo luận về việc con người tạo ra robot có ý thức cũng khiến dư luận lo lắng.

(Ảnh minh họa: VesnaArt/Shutterstock)

Nhiều công việc của con người đã trở nên hiệu quả hơn nhờ AI, nhưng nó cũng thúc đẩy hoạt động tin tặc phát triển mạnh hơn.

Theo báo cáo ngày 28/8 của Check Point Research, một công ty đa quốc gia Mỹ-Israel, các băng nhóm ransomware (Mã độc tống tiền) và “Chủ nghĩa tin tặc” (hacktivism) có động cơ chính trị đang gia tăng.

Họ sử dụng AI để nâng cấp trò chơi của mình, đặc biệt là phát triển email lừa đảo, phần mềm độc hại giám sát thao tác gõ phím và tạo mã độc tống tiền.

Theo Cyber ​​Security News , vào tháng trước, công ty bảo mật Netenrich cho biết, sau sự ra đời của WormGPT, một “chatbot phản diện” , tin tặc đã tạo ra một công cụ AI độc hại có tên FraudGPT, có thể tạo ra nhiều loại mã tấn công mạng. Hồ sơ cho thấy, chỉ trong vòng chưa đầy một tuần, hơn 3.000 người mua đã đặt hàng.

Theo Rakesh Krishnan, một nhà nghiên cứu tại công ty, FraudGPT đã lan truyền trên web đen từ ngày 22/7, phí đăng ký chỉ 200 USD một tháng.

Tin tặc tuyên bố trên trang bán hàng rằng công cụ này có thể được sử dụng để viết mã độc, tạo ra hàng loạt phần mềm độc hại mà phần mềm chống virus không thể phát hiện, phát hiện lỗ hổng trang web và tự động thực hiện xác thực mật khẩu.

Ông Dane Sherrets, kiến ​​trúc sư giải pháp tại HackerOne, công ty kiểm tra lỗ hổng công cộng lớn nhất ở Hoa Kỳ, cho biết ông không hề ngạc nhiên khi AI sẽ tạo điều kiện cho các cuộc tấn công mạng, giúp kẻ tấn công dễ dàng thành công hơn. Dane Sherrets cho biết ông sử dụng ChatGPT hàng ngày để tăng tốc làm việc nên hiểu điều này.

HackerOne là một nền tảng bảo mật kết nối các doanh nghiệp với các hacker có đạo đức, và những người kiểm tra an ninh mạng, để tìm ra các lỗ hổng trong hệ thống của công ty trước khi bọn tội phạm đột nhập.

Ngoài mối đe dọa do tin tặc mạng gây ra, bản thân sự phát triển của AI cũng khiến toàn xã hội cảm thấy bất an.

Vào tuần trước, ông Yoshua Bengio, chuyên gia trí tuệ nhân tạo đẳng cấp thế giới, cùng một nhóm gồm 19 người đã công bố một bài nghiên cứu dài 120 trang. Bài viết nói rằng mặc dù AI hiện đang vô thức, nhưng nó có thể có ý thức trong tương lai.

Theo báo cáo trên tạp chí “Science ”, các thành viên trong nhóm đến từ 3 lĩnh vực chính là triết học, khoa học thần kinh và trí tuệ nhân tạo. Họ đã sử dụng một phương pháp rất khoa học và chặt chẽ, để khám phá tiêu chuẩn tồn tại khách quan của ý thức.

Cụ thể, khả năng và hình thức hiện tại của AI tạm thời chưa có ý thức, nhưng nếu tiếp tục phát triển thì sẽ không có trở ngại khách quan nào để tạo ra những cỗ máy có ý thức!

Kết luận này nghe có vẻ đáng sợ! Rốt cuộc, AI là phước lành hay lời nguyền cho nhân loại?

Đánh giá của ông Bengio và những người khác cho rằng AI có ý thức hay không dựa trên thuyết tính toán tinh thần. Bởi một số lý thuyết trước đó tin rằng ý thức phải tồn tại trong não của một sinh vật. Nếu vậy, không cần phải tiếp tục nghiên cứu, nhưng nghiên cứu này lại dựa trên chức năng tính toán.

Ba năm trước, ông đã đề cập trong cuốn “Ưu tiên học sâu có liên quan đến ý thức” rằng Kahneman đã chỉ ra trong cuốn “Tư duy, nhanh và chậm” rằng có 2 hệ thống nhận thức của con người. Một loại là vô thức (hệ thống nhanh), với từ khóa là trực giác, phi ngôn ngữ, thói quen. Loại thứ hai là có ý thức (hệ thống chậm), với từ khóa là ngôn ngữ, thuật toán, lý luận và lập kế hoạch.

Những người theo chủ nghĩa chức năng tính toán cũng tin rằng ý thức có thể tồn tại ở nhiều loại chất nền khác nhau, không chỉ trong bộ não sinh học.

Mặc dù phương pháp học qua máy móc hiện nay vẫn chưa phát triển từ vô thức đến có ý thức hoàn toàn, nhưng ông Bengio tin rằng quá trình chuyển đổi từ “không” sang “có” là hoàn toàn có thể xảy ra, và cơ chế về sự chú ý là một trong những yếu tố cốt lõi của quá trình này.

Trình Phàm / Vision Times

IBM: 40% người lao động phải đổi mới kỹ năng trong 3 năm tới do “cách mạng AI”

“Trí tuệ nhân tạo AI sẽ không thay thế con người, mà những người thạo dùng AI sẽ thay thế những ai không dùng AI,” nghiên cứu của IBM.

Chia sẻ Facebook