Con người nên dừng ảo tưởng AI có cảm xúc

Giám đốc AI của Microsoft, Mustafa Suleyman, gần đây đã viết chatbot "có vẻ như có ý thức" có thể xuất hiện trong vòng vài năm tới. Các nhà tâm lý học lưu ý rằng con người đã và đang hình thành mối liên kết cảm xúc với chatbot.

Suleyman cho biết, hệ thống dường như có ý thức có thể khiến con người tin rằng máy móc có cảm xúc, ý định hoặc thậm chí là ý thức về bản thân. Ông lập luận rằng ảo tưởng này có thể bóp méo chuẩn mực xã hội, khơi dậy gắn bó cảm xúc và thậm chí khơi dậy những lời kêu gọi về quyền của AI.

"Việc xác định hệ thống có ý thức hay không, vô cùng quan trọng", Francesca Rossi, Trưởng nhóm Đạo đức AI Toàn cầu của IBM, chia sẻ với IBM Think trong cuộc phỏng vấn. "Chỉ cần nó được coi là có ý thức là đủ để tác động đến người dùng”. Bà cho biết rủi ro nằm ở chỗ con người bắt đầu đối xử với máy móc như thể chúng là con người: chia sẻ thầm kín, tâm tình chuyên sâu để tìm kiếm đồng cảm nhất thời.

Rủi ro không phải điều trừu tượng. Thanh thiếu niên đã và đang tìm đến chatbot để tìm kiếm đồng hành và hỗ trợ, đôi khi nhận lại những lời khuyên tai hại. Một khảo sát cho thấy 72% thanh thiếu niên Mỹ sử dụng công cụ AI để hỗ trợ sức khỏe tâm thần.

Rossi cho biết hai biện pháp bảo vệ quan trọng là: thiết kế thông minh & đào tạo tốt hơn. Chatbot nên được xây dựng, truyền thông để nhấn mạnh tính hữu ích chứ không phải tính cách, nghĩa là ít lời xin lỗi, ít ngôn ngữ ngôi thứ nhất (xưng tôi) và không đính kèm emoji cảm xúc khi phản hồi. Bà nói thêm, đào tạo có thể ở dạng prompt trong ứng dụng, hoặc đào tạo trực tiếp để làm rõ người dùng đang giao tiếp với thuật toán và mã nguồn, chứ không phải trí tuệ bằng xương bằng thịt.

“Đây là những cỗ máy,” Rossi nói. “Chúng có thể rất hữu ích, nhưng chúng vẫn là máy móc. Mọi người không bao giờ được quên điều đó”.