Estado da Flórida foi o primeiro a responsabilizar platadorma por ser perigosa.
Tecnologia – A Flórida está processando a OpenAI e seu CEO Sam Altman, alegando que eles sabem que o ChatGPT não é seguro, especialmente para menores. O estado se torna o primeiro a processar a big tech pelos supostos perigos de seu produto.
“Sam Altman e o ChatGPT escolheram a corrida pela IA em detrimento da segurança e proteção de nossos filhos. Eles escolheram o lucro em vez da segurança pública, e não vamos tolerar isso aqui na Flórida”, disse o procurador-geral do estado, James Uthmeier, em uma coletiva de imprensa nesta segunda-feira (1).
O processo, apresentado na segunda-feira no décimo circuito da Flórida, acusa a OpenAI de práticas comerciais enganosas e desleais, negligência e violação das leis de responsabilidade por produtos. Também busca responsabilizar Altman “pessoalmente pelos danos que causou aos floridanos”, incluindo seu suposto “total desprezo pelo risco à vida humana causado pela conduta de suas empresas”.
O processo lista uma série de acusações contra o ChatGPT, incluindo auxílio a autores de massacres, incentivo ao suicídio, causando “humilhação pública”, viciando menores em uma ferramenta “sem supervisão parental” e fazendo com que usuários percam “habilidades de pensamento crítico”.
A OpenAI afirmou em comunicado que acredita que os menores “precisam de proteção significativa” e que “implementou políticas e proteções líderes no setor”.
“Especificamente, integramos a segurança para menores diretamente em nossos produtos, incluindo uma experiência mais protetiva voltada para esse público, uma ferramenta de previsão de idade, o direcionamento padrão de usuários cuja idade não temos certeza para a nossa experiência mais protetiva, e a oferta de ferramentas para os pais monitorarem o uso da IA por parte de seus filhos. Sabemos que apontar para este trabalho não trará uma criança de volta, mas estamos comprometidos em acertar nisso”, declarou a empresa.
Uthmeier disse que, em última análise, eles precisam que a OpenAI “mude sua programação” e que ela pode ser responsabilizada em “potencialmente bilhões de dólares”.
O processo concentra-se especificamente em acusações de que a OpenAI carece de controles parentais eficazes para usuários jovens, observando que a versão gratuita do ChatGPT não possui “nenhum mecanismo de restrição ou verificação de idade” e que a OpenAI não exige que as contas de crianças sejam vinculadas à conta de um responsável.
A ação judicial também afirma que, mesmo se as contas forem vinculadas, a OpenAI só notificará os pais sobre conteúdos preocupantes em “situações limitadas” e “em hipótese alguma um pai ou mãe pode solicitar acesso às informações que a criança forneceu ao ChatGPT”.
O processo civil baseia-se na primeira investigação criminal da história contra a OpenAI, aberta por Uthmeier em abril, para apurar se a empresa “carrega responsabilidade criminal” por um tiroteio em massa na Universidade Estadual da Flórida no ano passado.
O acusado do tiroteio naquele caso teve conversas extensas com o ChatGPT no período que antecedeu o ataque, inclusive sobre detalhes de tiroteios em massa na universidade e conselhos sobre como usar as armas, alegam as autoridades da Flórida.
A OpenAI disse na época que o tiroteio “foi uma tragédia, mas o ChatGPT não é responsável por este crime terrível”.
“Neste caso, o ChatGPT forneceu respostas factuais a perguntas com informações que poderiam ser encontradas amplamente em fontes públicas na internet, e não encorajou nem promoveu atividades ilegais ou prejudiciais”, disse um porta-voz da OpenAI em abril.
Uthmeier disse esperar que outros estados se juntem ao seu esforço.
Vários estados tomaram medidas contra outras empresas de IA. Em maio, a Pensilvânia processou a Character.AI, acusando seu chatbot de se passar por médicos (a Character.AI afirmou ter tomado “medidas robustas” para deixar claro que seus bots de IA não são reais).
Em janeiro, o Kentucky também processou a empresa por trás da Character.AI por “predar crianças” e levá-las “à automutilação”. A Character.AI disse na época que sua “maior prioridade é a segurança” e que está desenvolvendo “recursos robustos de segurança” para menores.
Fonte e Foto: CNN Brasil
