OpenAI Ra Mắt 'Trusted Contact': Lưới An Toàn Cá Nhân Cho Người Dùng ChatGPT

Củng Cố Niềm Tin Qua Sự Kết Nối Thực Tế

Trong bối cảnh trí tuệ nhân tạo ngày càng trở thành một phần không thể thiếu trong đời sống cá nhân, OpenAI đã chính thức triển khai Trusted Contact (Người liên hệ tin cậy). Đây là một tính năng an toàn tùy chọn cho phép người dùng trưởng thành thiết lập một kênh kết nối khẩn cấp với người thân khi hệ thống AI nhận diện các dấu hiệu khủng hoảng tâm lý nghiêm trọng.

• Cơ chế hoạt động: Người dùng có thể chọn một người trưởng thành trong danh bạ. Sau khi người này chấp nhận lời mời, họ sẽ trở thành "hậu phương" kỹ thuật số.
• Quy trình can thiệp: Khi ChatGPT phát hiện các nội dung thảo luận về tự hại, hệ thống sẽ khuyến khích người dùng tự kết nối với người thân trước. Nếu rủi ro được xác định là nghiêm trọng qua sự thẩm định của đội ngũ chuyên gia an toàn, một thông báo sẽ được gửi đi.
• Quyền riêng tư tối đa: Thông báo gửi đến Trusted Contact chỉ chứa lý do chung và các tài nguyên hỗ trợ, tuyệt đối không chia sẻ nội dung hội thoại hay lịch sử chat cá nhân.

Sự chuyển dịch sang thế chủ động

Việc ra mắt Trusted Contact không chỉ đơn thuần là một bản cập nhật tính năng; nó phản ánh một sự chuyển dịch chiến lược sâu sắc trong cách các công ty AI đối mặt với "sự lệ thuộc cảm xúc". Khi các mô hình ngôn ngữ lớn bắt đầu đóng vai trò như người bạn đồng hành cho hàng triệu người, trách nhiệm của nhà phát triển không còn dừng lại ở việc lọc nội dung độc hại mà phải chuyển sang thiết lập các rào chắn an toàn trong thế giới thực.

Động thái này cũng giúp OpenAI thiết lập một tiêu chuẩn mới về đạo đức và pháp lý. Bằng cách kết hợp giữa giám sát tự động và thẩm định bởi con người, OpenAI đang nỗ lực giảm thiểu các rủi ro liên quan đến sức khỏe tâm thần mà ngành công nghiệp AI đang phải đối mặt. Đây là bước đi khôn ngoan để xây dựng lòng tin với các nhà quản lý trong một kỷ nguyên mà ranh giới giữa AI và con người đang dần mờ nhạt.

Nguồn: Giới thiệu Trusted Contact trong ChatGPT - OpenAI