OpenAI lo ngại sẽ có Siêu AI tiềm ẩn nguy hiểm hủy diệt loài người
OpenAI lo ngại sẽ có Siêu AI tiềm ẩn nguy hiểm hủy diệt loài người
Chia sẻ FB Chia sẻ Twitter Bình luận
|
|
(Nguồn: Tada Images/ Shutterstock) |
OpenAI, nhà sản xuất chatbot phổ biến toàn cầu ChatGPT, cho biết AI sẽ là bước đệm để hình thành Siêu AI giúp giải quyết các vấn đề quan trọng nhất của thế giới, và trở thành công nghệ quan trọng nhất mà nhân loại từng phát minh ra.
Tuy nhiên, đồng sáng lập và nhà khoa học trưởng của OpenAI là Ilya Sutskever, cùng người đứng đầu Liên minh OpenAI là Jan Leike cảnh báo rằng loài người vẫn chưa sẵn sàng cho Siêu AI. Họ cùng viết trên blog của OpenAI:
“ Sức mạnh kinh khủng của Siêu AI có thể rất nguy hiểm, khiến loài người bị mất quyền lực kiểm soát, thậm chí là làm cho loài người tuyệt chủng. Dù hiện tại Siêu AI có vẻ xa vời, nhưng chúng tôi tin rằng điều này có thể hình thành chỉ trong khoảng 10 năm tới.”
Các chuyên gia hàng đầu của OpenAI cho biết vẫn chưa có kế hoạch ngăn chặn ngày tận thế do Siêu AI có thể gây ra: “ Hiện tại, chúng tôi không có giải pháp nào để hướng dẫn hoặc kiểm soát tiềm năng của Siêu AI, để ngăn không cho nó vượt khỏi tầm kiểm soát. Các kỹ thuật hiện tại của chúng tôi để điều chỉnh AI, chẳng hạn như tăng cường trợ giúp học tập thông qua mệnh lệnh của con người, điều này dựa vào khả năng giám sát AI của con người. Nhưng con người không thể giám sát một cách đáng tin cậy các hệ thống AI thông minh hơn chúng ta rất nhiều”.
Họ tiết lộ rằng công ty đang mời các kỹ sư nghiên cứu, nhà khoa học và nhà quản lý để thành lập một nhóm mới, mục đích trong thời hạn 4 năm có thể giải quyết được các thách thức kỹ thuật của Siêu AI nhằm giúp ngăn chặn ngày tận thế.
Các nhà lãnh đạo OpenAI nói rằng họ không thể bảo đảm có thể ngăn chặn được hiểm họa tiềm ẩn Siêu AI hủy diệt loài người, nhưng vẫn lạc quan.
Quốc hội Mỹ cũng lo ngại về những rủi ro tiềm tàng của AI. Lãnh đạo Đa số Thượng viện Charles E. Schumer đã kêu gọi thiết lập bộ quy tắc mới quản lý AI, theo đó Ủy ban Tư pháp Thượng viện sẽ tiếp tục tổ chức các phiên điều trần về giám sát AI, bao gồm xem xét cả những lo ngại rằng AI có thể dẫn đến các cuộc tấn công mạng, bất ổn chính trị và việc triển khai vũ khí hủy diệt hàng loạt…
Vào tháng 5, Giám đốc điều hành OpenAI Sam Altman đã làm chứng trước Ủy ban Tư pháp Thượng viện Mỹ rằng ông lo ngại các công cụ AI có thể bị lạm dụng để thao túng con người.
Chủ tịch Ủy ban Tư pháp Thượng viện Richard J. Durbin bày tỏ sự quan tâm đến vấn đề xây dựng “quy chế trách nhiệm giải trình về AI ”, trong đó sẽ bao gồm trách nhiệm dân sự tiềm tàng của liên bang và tiểu bang khi thiệt hại do các công cụ AI gây ra.
Các công ty công nghệ lớn như Google và Microsoft (nhà tài trợ cho OpenAI) cũng đã kêu gọi đưa ra quy định mới về AI – vấn đề đang được chính phủ liên bang lắng nghe.
Chính quyền Tổng thống Biden đang nỗ lực xây dựng chiến lược AI quốc gia, theo đó hàng tuần các quan chức cấp cao Nhà Trắng tổ chức nhiều cuộc họp về các vấn đề liên quan đến AI.
Hôm 6/7, OpenAI cho biết rhọ đang cho ra đời mô hình AI mạnh nhất GPT-4.
Tiêu Nhiên, Vision Times
Elon Musk: Robot sẽ nhiều hơn con người trong tương lai
Tại Hội nghị Trí tuệ nhân tạo Thế giới 2023, ông Elon Musk dự đoán rằng số lượng người máy trên trái đất sẽ vượt con người trong tương lai.
