EU ra lệnh cấm các hệ thống AI được sử dụng để giám sát hành vi xã hội
Liên minh châu Âu (EU) sẽ cấm các hệ thống trí tuệ nhân tạo (AI) được sử dụng để giám sát hàng loạt hoặc để xếp hạng hành vi xã hội, trong khi các công ty phát triển AI có thể phải đối mặt với khoản phạt cao tới 4% doanh thu toàn cầu nếu họ không tuân thủ các quy tắc mới quản lý các ứng dụng phần mềm.
Các quy tắc này là một phần của dự luật được đề xuất bởi Ủy ban châu Âu, cơ quan hành pháp của khối, theo bản dự thảo mà Bloomberg có được.
Các chi tiết có thể thay đổi trước khi ủy ban công bố biện pháp, dự kiến sẽ sớm vào tuần tới.
Đề xuất của EU dự kiến sẽ bao gồm các quy tắc sau:
– Các hệ thống AI được sử dụng để thao túng hành vi của con người, khai thác thông tin về cá nhân hoặc nhóm cá nhân, được sử dụng để thực hiện tính điểm xã hội hoặc để giám sát bừa bãi đều sẽ bị cấm ở EU. Một số ngoại lệ về an ninh công cộng sẽ được áp dụng.
– Các hệ thống nhận dạng sinh trắc học từ xa, như nhận dạng khuôn mặt, được sử dụng ở những nơi công cộng, sẽ cần sự cho phép đặc biệt của cơ quan chức năng.
– Các ứng dụng AI được coi là “rủi ro cao” sẽ phải trải qua các cuộc kiểm tra trước khi triển khai để đảm bảo các hệ thống được đào tạo về các tập dữ liệu không thể truy nguyên và có sự giám sát của con người.
– Một số công ty sẽ được phép tự thực hiện đánh giá, trong khi những công ty khác sẽ phải chịu sự kiểm tra của bên thứ ba. Chứng chỉ tuân thủ do các cơ quan đánh giá cấp sẽ có giá trị trong vòng 5 năm.
Các quy tắc sẽ áp dụng như nhau cho các công ty có trụ sở tại EU hoặc nước ngoài.
Các quốc gia thành viên châu Âu sẽ được yêu cầu chỉ định các cơ quan đánh giá để kiểm tra, chứng nhận và kiểm tra các hệ thống.
Anh Vũ
