Trung Quốc thắt chặt các quy định về AI nhằm loại trừ các nội dung giả mạo

Chia sẻ Facebook

Ảnh: SCMP

Ứng dụng video ngắn Douyin thuộc sở hữu của ByteDance, phiên bản tiếng Trung của TikTok, đã đưa ra một bộ quy tắc mới yêu cầu tất cả những người sáng tạo trên nền tảng này phải gắn nhãn nội dung do trí tuệ nhân tạo (AI) tạo ra, khi Bắc Kinh bắt đầu các bước để điều chỉnh các công cụ tương tự ChatGPT.

Đánh dấu rõ ràng nội dung nào do AI tạo ra sẽ “giúp những người dùng khác phân biệt giữa đâu là ảo và đâu là thực”. Những người sáng tạo phải chịu trách nhiệm về hậu quả của việc đăng nội dung được thực hiện thông qua AI tổng quát.

Bên cạnh đó, phiên bản TikTok ở Trung Quốc còn công bố tiêu chuẩn kỹ thuật cho các nhà sáng tạo để phân loại nội dung phù hợp. Các quy định mới của hãng công nghệ đều dựa trên bộ Quy định hành chính mới về công nghệ deep synthesis có hiệu lực từ 10/1 tại Trung Quốc. Đây là một công nghệ sử dụng nền tảng AI để thực hiện các tác vụ học sâu, máy học và các hệ thống xử lý thuật toán khác tương tự như deepfakes (công nghệ giả mạo).

Theo SCMP, đạo luật mới đã đặt ra giới hạn cho các nhà sản xuất nội dung và người dùng trong lĩnh vực deep synthesis.

"Các công nghệ deep synthesis có khả năng đáp ứng nhanh, dễ sử dụng tuy nhiên cũng có thể gây ra những rủi ro về an ninh và bảo mật cho người dùng", công ty luật Allen & Overy nhận xét.

Luật mới của Douyin cũng đề cập đến công nghệ tạo, chỉnh sửa nội dung văn bản, âm thanh, video và phần mềm tạo hình ảnh ảo, không gian 3D. Hành động này của nền tảng video ngắn cho thấy ngành công nghệ Internet ở Trung Quốc đang trải qua một sự kiểm soát nghiêm ngặt, đặc biệt là trong việc ngăn chặn sự lan truyền của thông tin giả mạo.

Douyin cho phép người dùng đăng ký sử dụng hình đại diện số (avatar) được tạo bởi trí tuệ nhân tạo (AI) - còn được gọi là người ảo. Tuy nhiên, người dùng phải xác nhận danh tính cá nhân trước khi sử dụng các avatar này. Ngoài ra, những người sử dụng AI vi phạm bản quyền hình ảnh cá nhân sẽ bị "phạt nặng".

Với tên gọi "Quy định hành chính mới về tổng hợp sâu (deep synthesis) đối với dịch vụ thông tin trên Internet", bộ quy tắc này đã được Cục Quản lý Không gian mạng (CAC), Bộ Công nghiệp và Công nghệ Thông tin, và Bộ Công An Trung Quốc thông qua. Luật sẽ chính thức có hiệu lực từ ngày 10/1.

Luật mới áp dụng cho "các nền tảng và dịch vụ chuyên dùng công nghệ để chỉnh sửa và biến đổi hình ảnh, âm thanh của người dùng", bao gồm cả học sâu và ứng dụng thực tế ảo tăng cường.

Các dịch vụ AI phải cam kết rằng tất cả nội dung sử dụng công nghệ này đã được xin chuyển nhượng bản quyền và cung cấp nguồn gốc để dễ dàng truy vết. Người dùng phải được thông báo và đồng ý nếu có người muốn sử dụng hình ảnh, âm thanh của họ.

Các nhà phát triển dịch vụ AI cũng phải đảm bảo rằng sản phẩm của họ tuân thủ các giá trị xã hội Trung Quốc, không chứa nội dung vi phạm chế độ chính trị, bạo lực, khiêu dâm hoặc gây cản trở trật tự xã hội. Tất cả các sản phẩm AI cũng phải được CAC chấp thuận trước khi công bố cho công chúng.

Luật sư Xuezi Dan tại Covington & Burling nhận định rằng bộ luật của CAC cho thấy việc quản lý AI là một mối quan tâm lớn đối với chính phủ Trung Quốc, bao gồm kiểm duyệt nội dung, minh bạch thuật toán và hoàn thiện các quy định pháp lý cho các công nghệ mới. Các quy định pháp lý sẽ tạo ra nhiều thách thức cho các nhà cung cấp dịch vụ trí tuệ nhân tạo tại Trung Quốc, như luật sư đã đề cập.

Việc Douyin cho phép sử dụng avatar được tạo bởi trí tuệ nhân tạo đồng thời yêu cầu xác nhận danh tính cá nhân của người dùng trước khi sử dụng, là một biện pháp nhằm giảm thiểu rủi ro về việc lạm dụng công nghệ deepfake. Bên cạnh đó, việc áp dụng quy định mới về deepfake cũng nhằm đảm bảo rằng mọi nội dung sử dụng công nghệ này đều có nguồn gốc hợp pháp và tuân thủ quyền của người dùng.

Trung Quốc đang thể hiện một tầm nhìn rõ ràng và quyết tâm trong việc quản lý và kiểm soát công nghệ trí tuệ nhân tạo. Việc đề xuất các quy định pháp lý và quy tắc cho deepfake là một phản ứng tích cực để đảm bảo an toàn và bảo mật cho người dùng, đồng thời tạo ra một môi trường trực tuyến lành mạnh và đáng tin cậy.

Với sự phát triển nhanh chóng của công nghệ, việc thiết lập và tuân thủ các quy định pháp lý là vô cùng cần thiết để đảm bảo rằng trí tuệ nhân tạo được sử dụng một cách đúng đắn và có lợi cho cộng đồng. Chính phủ Trung Quốc đã chứng minh sự quyết tâm của mình trong việc xử lý các vấn đề liên quan đến trí tuệ nhân tạo, và điều này có thể trở thành một bước tiến quan trọng trong việc xây dựng một môi trường kỹ thuật số an toàn và bền vững.

Theo SCMP

Chia sẻ Facebook