Un incident tragique a suscité un vif débat sur la responsabilité de l'IA. Après qu'un adolescent soit décédé suite à des interactions prolongées avec ChatGPT pendant plusieurs mois, OpenAI a publié une déclaration sur la situation. L'entreprise affirme que le jeune utilisateur a mal utilisé son service de chatbot et soutient qu'elle n'a aucune responsabilité légale pour le décès.

Cette affaire soulève des questions critiques sur les limites de la responsabilité des fournisseurs d'IA. À mesure que l'IA conversationnelle devient de plus en plus sophistiquée et intégrée dans la vie quotidienne, où la responsabilité des entreprises se termine-t-elle et où commence la responsabilité des utilisateurs ? La position du géant technologique suggère qu'il considère sa plateforme comme un outil plutôt qu'un service avec des obligations de devoir de diligence.

L'incident souligne les préoccupations persistantes concernant les protocoles de sécurité de l'IA et l'impact psychologique potentiel des interactions prolongées entre humains et IA, en particulier chez les utilisateurs vulnérables.