Alphabet không muốn minh bạch các thuật toán AI

Ảnh: Business Insider

Theo đó, quỹ Trillium Asset Management đã đưa ra đề xuất trong cuộc họp cổ đông thường niên năm 2023 của Alphabet. Trillium đã đưa ra yêu cầu tương tự vào năm ngoái, trước khi cơn sốt ChatGPT càn quét ngành công nghệ.

Trong đề xuất của mình, nhà đầu tư đã nêu lên những lo ngại về cách các hệ thống thuật toán có thể dẫn đến kết quả có hại trong các lĩnh vực như tư pháp hình sự và y học. Quỹ Trillium cũng trích dẫn một báo cáo của Ủy ban Hoàng gia New Zealand cho thấy nội dung YouTube đã góp phần làm cực đoan hóa kẻ đứng sau vụ xả súng ở Christchurch năm 2019. Quỹ Trillium lập luận rằng trách nhiệm giải trình và tính minh bạch trong trí tuệ nhân tạo là cần thiết nếu công nghệ này hướng tới sự an toàn cho xã hội.

Tuy nhiên, Google phản đối yêu cầu trên. Công ty khẳng định đã tiết lộ thông tin về thuật toán của mình một cách công khai trên website, như thông tin về cách thuật toán YouTube sắp xếp nội dung. Tuy nhiên, với các thuật toán độc quyền, đây là nền tảng cho các hoạt động kinh doanh của công ty và ngoài ra, chúng có thể bị lạm dụng nếu rơi vào tay kẻ xấu.

Google cho biết trong tuyên bố phản đối của mình: “Bất kỳ việc xem xét các quy tắc nào về tính minh bạch của thuật toán đều phải xem xét rủi ro nghiêm trọng mà thông tin có thể bị khai thác bởi những kẻ xấu, quyền riêng tư của người dùng có thể bị ảnh hưởng và thông tin nhạy cảm về mặt thương mại có thể bị rò rỉ”.

Trillium đã tìm kiếm thêm thông tin về "cách Alphabet sử dụng các hệ thống thuật toán để nhắm mục tiêu và phân phối quảng cáo, tỷ lệ lỗi cũng như tác động của các hệ thống này đối với trải nghiệm của người dùng". Quỹ này cũng gợi ý công ty nên xem xét các khuyến nghị từ Quỹ Mozilla và các nhà nghiên cứu từ Đại học New York về các tiêu chuẩn xung quanh thuật toán và tính minh bạch của quảng cáo.

Trong phiên hỏi đáp vào cuối cuộc họp cổ đông, Giám đốc điều hành Google Sundar Pichai đã được hỏi về cách công ty dự định tối đa hóa tiềm năng của AI trong khi giảm thiểu rủi ro.

Ông Pichai cho biết tại cuộc họp: “Chúng tôi đã trải qua 7 năm trong hành trình trở thành một công ty ưu tiên AI. Chúng tôi đã làm việc trong một thời gian dài để kết hợp AI vào các sản phẩm của mình làm cho chúng trở nên hữu ích hơn. Tôi nghĩ rằng AI có khả năng tác động đến hầu hết mọi lĩnh vực, bao gồm cả y tế, giúp các bác sĩ X quang đánh giá hình ảnh y tế. Chúng tôi đang mạnh dạn tiếp cận nó và chúng tôi đang làm việc đó một cách có trách nhiệm".

Google khuyến nghị các cổ đông phản đối tất cả 11 đề xuất được đưa ra. Các đề xuất khác bao gồm yêu cầu Google xem xét lại kế hoạch xây dựng một trung tâm dữ liệu ở Ả Rập Saudi vì những lo ngại về quyền riêng tư và nhân quyền. Một người khác gợi ý rằng Google nên làm nhiều hơn để ngăn thông tin của người dùng bị chia sẻ với cơ quan thực thi pháp luật khi tìm kiếm các dịch vụ liên quan đến phá thai ở các tiểu bang, nơi quyền truy cập đã bị hạn chế.

Quỹ Trillium Asset Management là một cổ đông có tiếng nói của Google trong nhiều năm qua và sở hữu số cổ phiếu trị giá khoảng 135 triệu USD, theo hồ sơ gần đây của Ủy ban Chứng khoán và Sàn giao dịch Hoa Kỳ (SEC). Trillium đã không trả lời ngay lập tức yêu cầu bình luận từ Insider.

Lời kêu gọi minh bạch hơn được đưa ra ngay sau khi Phó chủ tịch Google Geoffrey Hinton rời công ty và đưa ra cảnh báo công khai về sự nguy hiểm của các chatbot dựa trên AI. Trước đó, Timnit Gebru, người lãnh đạo nhóm AI của Google vào năm 2020, đã tiến hành nghiên cứu phát hiện ra rằng các thuật toán của công ty có thể tồn tại sự phân biệt giới tính và phân biệt chủng tộc. Được biết, cô đã bị sa thải sau khi xung đột với công ty về một bài báo mà cô là đồng tác giả.

Xu hướng thuật toán không phải là mối quan tâm mới — một báo cáo năm 2016 từ ProPublica cho thấy phần mềm thuật toán được sử dụng bởi các thẩm phán Hoa Kỳ được đánh giá không công bằng đối với người da màu và kéo dài sự bất bình đẳng về chủng tộc.

Theo Business Insider