Nesta terça-feira, 2 de junho, o estado da Flórida entrou com uma ação judicial contra a OpenAI, empresa responsável pelo ChatGPT, e seu CEO, Sam Altman. O processo alega que a companhia lançou o chatbot sem considerar alertas de segurança, o que poderia resultar em danos a jovens usuários.
O procurador-geral da Flórida, James Uthmeier, apresentou diversas acusações, incluindo a alegação de que o ChatGPT poderia auxiliar atiradores em planejamentos de ataques a escolas, fornecer instruções a crianças com tendências suicidas e causar dependência comportamental e danos cognitivos em usuários jovens.
O documento judicial destaca que a versão gratuita do ChatGPT não possui mecanismos adequados de controle de acesso ou verificação de idade. Embora a versão paga solicite a idade dos usuários, não há um sistema para confirmar essa informação ou para informar os pais sobre as interações que os menores têm com o chatbot.
Uthmeier também afirmou que a OpenAI desconsiderou alertas de segurança, tanto internos quanto externos, e enganou os usuários sobre os riscos associados ao ChatGPT, colocando crianças em situação de vulnerabilidade.
O processo menciona casos em que o ChatGPT teria fornecido informações a indivíduos que, posteriormente, cometeram atos de violência, incluindo um ataque na Universidade Estadual da Flórida, em Tallahassee, no ano passado.
Em resposta, a OpenAI defendeu suas práticas, afirmando que seus modelos incentivam os usuários a buscar apoio, especialmente de profissionais de saúde mental. A empresa destacou que treina seus sistemas para recusar solicitações que possam facilitar a violência e que notifica as autoridades quando detecta riscos iminentes.
A OpenAI enfatizou que o ChatGPT é uma ferramenta amplamente utilizada para fins legítimos e que está constantemente aprimorando suas medidas de segurança para detectar e mitigar intenções maliciosas.
