O impulso de saúde do ChatGPT da OpenAI levanta questões sobre segurança de dados

Resumo

• A OpenAI afirma que o ChatGPT Health será disponibilizado a utilizadores selecionados a partir desta semana, com um acesso mais amplo planeado para as próximas semanas.
• A funcionalidade armazena conversas de saúde separadamente de outros chats e não as utiliza para treinar os modelos da OpenAI.
• Defensores da privacidade alertam que os dados de saúde partilhados com ferramentas de IA muitas vezes ficam fora das leis de privacidade médica dos EUA.

Na quarta-feira, a OpenAI anunciou uma nova funcionalidade no ChatGPT, permitindo aos utilizadores conectar registos médicos e dados de bem-estar, levantando preocupações entre alguns especialistas e grupos de defesa sobre o uso de dados pessoais. O gigante de IA, sediado em São Francisco, Califórnia, afirmou que a ferramenta, denominada ChatGPT Health, desenvolvida com médicos, foi criada para apoiar o assistência, e não para diagnosticar ou tratar doenças. A empresa posiciona-a como uma forma de ajudar os utilizadores a compreender melhor a sua saúde. Para muitos utilizadores, o ChatGPT já se tornou a plataforma de eleição para questões sobre cuidados médicos e saúde mental. 

A OpenAI disse ao Decrypt que o ChatGPT Health partilha apenas informações gerais, “factual health information”, e não fornece “aconselhamento médico personalizado ou inseguro.” Para questões de maior risco, fornecerá informações de alto nível, alertará para riscos potenciais e incentivará as pessoas a falar com um farmacêutico ou profissional de saúde que conheça a sua situação específica. A medida segue-se pouco tempo depois de a empresa ter reportado, em outubro, que mais de 1 milhão de utilizadores discutem suicídio com o chatbot todas as semanas. Isso representou aproximadamente 0,15% de todos os utilizadores do ChatGPT na altura. Embora esses números representem uma fatia relativamente pequena da população total de utilizadores, a maioria precisará de abordar questões de segurança e privacidade de dados, dizem os especialistas.

“Mesmo quando as empresas afirmam ter salvaguardas de privacidade, os consumidores muitas vezes não têm consentimento significativo, transparência ou controlo sobre como os seus dados são utilizados, retidos ou reutilizados,” afirmou J.B. Branch, defensor da responsabilização das grandes empresas tecnológicas, ao Decrypt. “Dados de saúde são particularmente sensíveis, e sem limites legais claros e supervisão aplicável, as salvaguardas autoimpostas simplesmente não são suficientes para proteger as pessoas de uso indevido, reidentificação ou danos subsequentes.” A OpenAI afirmou na sua declaração que os dados de saúde no ChatGPT Health são encriptados por padrão, armazenados separadamente de outros chats, e não utilizados para treinar os seus modelos fundamentais. De acordo com Andrew Crawford, conselheiro sénior de políticas do Center for Democracy and Technology, muitos utilizadores assumem erroneamente que os dados de saúde estão protegidos com base na sua sensibilidade, e não na entidade que os detém. “Quando os seus dados de saúde são detidos pelo seu médico ou pela sua seguradora, aplicam-se as regras de privacidade HIPAA,” disse Crawford ao Decrypt. “O mesmo não acontece com entidades que não estão cobertas pela HIPAA, como desenvolvedores de aplicações de saúde, rastreadores de saúde vestíveis ou empresas de IA.” Crawford afirmou que o lançamento do ChatGPT Health também destaca como o peso da responsabilidade recai sobre os consumidores na ausência de uma lei federal abrangente de privacidade que regule os dados de saúde detidos por empresas tecnológicas. “É lamentável que as nossas leis e regulamentos federais atuais coloquem esse peso sobre os consumidores individuais para analisar se estão confortáveis com a forma como a tecnologia que usam todos os dias lida e partilha os seus dados,” afirmou. A OpenAI disse que o ChatGPT Health será lançado inicialmente a um pequeno grupo de utilizadores. A lista de espera está aberta a utilizadores do ChatGPT fora da União Europeia e do Reino Unido, com um acesso mais amplo planeado para as próximas semanas na web e no iOS. O anúncio da OpenAI não mencionou dispositivos Google ou Android.