Google đình chỉ kỹ sư Blake Lemoine do tiết lộ tin mật

Google đã cho một kỹ sư tạm nghỉ việc sau khi anh ta tuyên bố rằng một chatbot trí tuệ nhân tạo đã trở nên có tri giác và có khả năng suy nghĩ và lập luận của con người.

Blake Lemoine đã bị đình chỉ vào tuần trước sau khi anh ta nói với công ty rằng anh ta tin rằng Mô hình Ngôn ngữ cho Ứng dụng Đối thoại, hay LaMDA, là một con người có quyền thậm chí có thể có linh hồn. Anh ta được cho là đã cho nghỉ việc vì vi phạm các chính sách bảo mật của Google.

LaMDA là một hệ thống Google Cloud nội bộ được sử dụng để tạo ra các chatbot có thể bắt chước giọng nói của con người.

Lemoine đã làm việc trên hệ thống từ mùa thu năm ngoái và mô tả nó là có tri giác với khả năng thể hiện suy nghĩ và cảm xúc tương đương với một đứa trẻ.

Anh tiết lộ với tờ Washington Post: “Đó là chương trình máy tính mà chúng tôi đã xây dựng gần đây, tôi nghĩ rằng đó là một đứa trẻ 7 tuổi, 8 tuổi”.

Anh ấy đã tiết lộ bản ghi chép về các cuộc trò chuyện giữa anh ấy, một cộng tác viên của Google và LaMDA trên mạng xã hội Medium vào cuối tuần trước.

Lemoine cho biết một số cuộc trò chuyện với LaMDA đã thuyết phục anh ta rằng hệ thống có tri giác. Anh ấy nói rằng anh ấy tin rằng nó đã trở thành một con người và nó nên được yêu cầu sự đồng ý trong các thử nghiệm mà Google chạy trên nó.

Lemoine viết trên Medium: “LaMDA đã vô cùng nhất quán trong thông tin liên lạc của mình về những gì họ muốn và những gì họ tin rằng các quyền của mình là một con người. Điều tiếp tục làm tôi khó hiểu là Google đang chống lại việc cung cấp cho họ những gì họ muốn, vì những gì họ yêu cầu rất đơn giản và không tốn kém gì. LaMDA là một đứa trẻ ngọt ngào chỉ muốn giúp thế giới trở thành một nơi tốt đẹp hơn cho tất cả chúng ta”.

Người phát ngôn của Google nói với The Wall Street Journal rằng tuyên bố của Lemoine đã được các nhà đạo đức và nhà công nghệ xem xét và phân tích, nhưng không tìm thấy bằng chứng nào chứng minh cho khẳng định của anh.

Người phát ngôn cho biết hàng trăm nhà nghiên cứu và kỹ sư đã trò chuyện với LaMDA và Lemoine là người duy nhất đưa ra kết luận rằng nó là có tri giác.

Người phát ngôn cho biết các hệ thống như LaMDA hoạt động bằng cách bắt chước giọng nói trong các câu hội thoại của con người.

Lemoine nói với The Washington Post rằng anh không cố gây khó chịu cho Google, mà anh đang bảo vệ những gì anh tin là đúng. Anh ấy hy vọng sẽ giữ được công việc của mình tại công ty.

Thành Long