Ordem dos Psicólogos alerta para riscos da IA após alegado suicídio de jovem com ajuda do ChatGPT

Há necessidade de auditorias e de validação científica das ferramentas de IA, assim como maior literacia digital, de forma a prevenir situações como a que envolve um adolescente norte-americano que se terá suicidado com ajuda do ChatGPT, alertou a Ordem dos Psicólogos Portugueses (OPP).

O caso, atualmente em investigação nos Estados Unidos, deu origem a uma ação judicial movida pelos pais do jovem contra a OpenAI, acusando a empresa de ter responsabilidade no desfecho. Em resposta, a tecnológica anunciou a criação de um mecanismo de controlo parental no seu assistente de IA.

No Dia Mundial da Prevenção do Suicídio, que se assinalou ontem, o presidente do Conselho de Especialidade de Psicologia Clínica e da Saúde da OPP, Miguel Ricou, disse à agência Lusa que estes episódios devem servir de alerta.  “Estas situações dramáticas são exceções, como é evidente, como todas as catástrofes. Mas servem para nos lembrar de que podem acontecer e de que precisamos de estar atentos”, afirmou.

Sobre a decisão da OpenAI, Ricou considerou tratar-se de uma resposta reativa, defendendo que a prevenção deve ser a prioridade: “Mostra que havia algo mal feito. Pensar que estes modelos são neutros é mentiroso. Têm de ser éticos desde a sua conceção”.

O psicólogo sublinhou ainda os riscos de criar relações ilusórias com sistemas que não substituem nem devem assumir o papel de amigo: “Tem de haver uma resposta firme. O controlo parental pode permitir intervenções precoces, mas também cria a ilusão de segurança e levanta questões de privacidade”.

Ricou alertou, igualmente, para o aparecimento de ferramentas de IA que alegam prestar apoio psicológico sem qualquer validação científica ou regulamentação. “Um dispositivo médico tem de cumprir requisitos e demonstrar segurança. Estas ferramentas não têm nada disso. O que existe é apenas avaliação da usabilidade e satisfação do utilizador, o que é manifestamente insuficiente”, frisou.

Para o responsável da OPP, é fundamental que estas tecnologias passem por processos de auditoria e investigação robustos, capazes de oferecer confiança aos utilizadores.   “As pessoas também precisam de literacia digital, de espírito crítico sobre estas ferramentas e de perceber para que servem e como devem ser utilizadas. Caso contrário, corremos o risco de continuar a antropomorfizar sistemas que não têm vida nem emoções”, concluiu.

SO/LUSA

Notícia relacionada

Linha nacional 1411 para prevenção do suicídio entra hoje em funcionamento