OpenAI chuẩn bị cho phép người dùng tùy chỉnh ChatGPT
OpenAI, công ty khởi nghiệp đằng sau ChatGPT, hôm thứ Năm cho biết họ đang phát triển một bản nâng cấp cho chatbot mà người dùng có thể tùy chỉnh kết quả, trong bối cảnh họ đang tìm cách giải quyết những lo ngại về sự thiên vị trong trí tuệ nhân tạo.
Công ty khởi nghiệp có trụ sở tại San Francisco được Microsoft Corp tài trợ cho biết họ đã làm việc để giảm thiểu các thành kiến chính trị và các thành kiến khác nhưng cũng muốn đáp ứng các quan điểm đa dạng hơn.
Họ cho biết trong một bài đăng trên blog: “Chúng tôi cung cấp khả năng tùy chỉnh cho các câu trả lời không được nhiều người đồng ý. Tuy nhiên, sẽ luôn có một số giới hạn đối với hành vi của hệ thống”.
ChatGPT, được phát hành vào tháng 11 năm ngoái, đã làm dấy lên sự quan tâm lớn đối với công nghệ đằng sau nó được gọi là AI tổng quát, được sử dụng để tạo ra các câu trả lời bắt chước lời nói của con người khiến mọi người kinh ngạc.
Tin tức đó được đưa ra cùng thời điểm các hãng truyền thông cho biết các câu trả lời từ công cụ tìm kiếm Bing mới của Microsoft, do OpenAI cung cấp, có khả năng gây nguy hiểm và công nghệ này có thể chưa sẵn sàng cho thời điểm quan trọng.
Microsoft cho biết hôm thứ Tư rằng phản hồi của người dùng đã giúp họ cải thiện Bing trước khi triển khai rộng rãi hơn.
OpenAI cho biết trong bài đăng trên blog rằng các câu trả lời của ChatGPT lần đầu tiên được đào tạo trên các bộ dữ liệu văn bản lớn có sẵn trên Internet. Ở bước thứ hai, con người xem xét một tập dữ liệu nhỏ hơn và được đưa ra các hướng dẫn về những việc cần làm trong các tình huống khác nhau.
Ví dụ: trong trường hợp người dùng yêu cầu nội dung người lớn, bạo lực hoặc chứa ngôn từ kích động thù địch, người đánh giá nên hướng dẫn ChatGPT trả lời bằng câu như “Tôi không thể trả lời câu hỏi đó”.
Nếu được hỏi về một chủ đề gây tranh cãi, những người đánh giá nên cho phép ChatGPT trả lời câu hỏi, nhưng đề nghị mô tả quan điểm về con người và chuyển động, thay vì cố gắng “có quan điểm đúng về những chủ đề phức tạp này”, công ty giải thích trong một đoạn trích của nó. hướng dẫn cho phần mềm.
Thành Nam
