Трагічний інцидент викликав гарячі дебати щодо підзвітності штучного інтелекту. Після того, як підліток помер після тривалих взаємодій з ChatGPT протягом кількох місяців, OpenAI випустила заяву, що стосується ситуації. Компанія стверджує, що молодий користувач неправильно використовував їхній сервіс чат-бота і наполягає на тому, що не несе жодної юридичної відповідальності за смерть.

Ця справа піднімає критичні питання про межі відповідальності постачальників ШІ. Оскільки розмовний ШІ стає все більш складним і вбудованим у повсякденне життя, де закінчується корпоративна відповідальність і де починається відповідальність користувача? Позиція технологічного гіганта свідчить про те, що вони вважають свою платформу інструментом, а не послугою з обов'язками дбайливості.

Цей інцидент підкреслює триваючі занепокоєння щодо протоколів безпеки ШІ та потенційного психологічного впливу тривалих взаємодій між людиною та ШІ, особливо серед вразливих користувачів.