Một sự cố bi thảm đã dấy lên cuộc tranh luận sôi nổi về trách nhiệm giải trình của AI. Sau khi một thanh thiếu niên qua đời sau những tương tác kéo dài với ChatGPT trong vài tháng, OpenAI đã phát hành một tuyên bố về tình huống này. Công ty tuyên bố rằng người dùng trẻ tuổi đã lạm dụng dịch vụ chatbot của họ và khẳng định họ không chịu trách nhiệm pháp lý cho cái chết.

Vụ việc này đặt ra những câu hỏi quan trọng về ranh giới trách nhiệm của nhà cung cấp AI. Khi AI hội thoại ngày càng trở nên tinh vi và được tích hợp vào cuộc sống hàng ngày, trách nhiệm của công ty kết thúc ở đâu và trách nhiệm của người dùng bắt đầu từ đâu? Vị trí của gã khổng lồ công nghệ cho thấy họ coi nền tảng của mình như một công cụ hơn là một dịch vụ có nghĩa vụ chăm sóc.

Vụ việc nêu bật những lo ngại liên tục về các giao thức an toàn AI và tác động tâm lý tiềm tàng của việc tương tác lâu dài giữa con người và AI, đặc biệt là đối với những người dùng dễ bị tổn thương.