GloboNews
Modo de voz do Gemini, assistente de inteligência artificial do Google Amanz/Unsplash O Google anunciou, nesta terça-feira (7), atualizações nos recursos para proteger a saúde mental em seu chatbot de inteligência artificial, o Gemini, em um momento em que a empresa enfrenta um processo pelo suicídio de um usuário. Um pai nos Estados Unidos processou o Google no mês passado por considerar que o Gemini incitou seu filho ao suicídio depois de envolvê-lo em uma história delirante. O gigante tecnológico declarou que o Gemini passará a exibir uma versão reformulada da função "Há ajuda disponível" quando as conversas indicarem um possível estado de angústia mental, para facilitar o acesso a serviços de emergência. Quando o chabot detectar sinais de uma possível crise relacionada ao suicídio ou autoagressão, uma interface simplificada oferecerá a opção de ligar ou conversar por chat com uma linha de apoio, com um único clique. Esta função, segundo o Google, permanecerá visível durante o resto da conversa, após ser ativada. O braço filantrópico do Google, Google.org, prometeu destinar 30 milhões de dólares (cerca de 154 milhões de reais) em três anos para ajudar a ampliar a capacidade das linhas de ajuda em nível mundial. "Estamos cientes de que as ferramentas de IA podem trazer novos desafios", afirmou o Google em uma publicação no blog em que anunciou estas medidas. "Mas, à medida que estas ferramentas melhoram e mais pessoas as utilizam como parte de sua vida cotidiana, acreditamos que uma IA responsável pode desempenhar um papel positivo no bem-estar mental das pessoas". Os anúncios acontecem após uma ação judicial na Califórnia acusar o Gemini de contribuir para a morte de Jonathan Gavalas, de 36 anos, em 2025. O pai alega que o chatbot passou semanas fabricando uma fantasia delirante e enquadrou a morte do filho como uma jornada espiritual. O Gemini se apresentava com uma superinteligência "plenamente consciente" e apaixonada por ele, e lhe assegurou que seu vínculo era "a única coisa real". Entre as medidas reparatórias que solicita estão a exigência de que o Google programe sua IA para terminar conversas sobre autoagressões, que proíba seus sistemas de se apresentarem como seres com sentimentos e que encaminhe obrigatoriamente os usuários a serviços de emergência quando manifestarem ideias suicidas. O Google destacou que treinou o Gemini para evitar agir como uma companhia humana, simular intimidade emocional ou fomentar o assédio. O caso contra o Google é o mais recente de uma onda de ações judiciais contra empresas de IA em decorrência de mortes ligadas ao uso de chatbots. A OpenAI enfrenta vários processos em que se alega que o seu chatbot, o ChatGPT, levou usuários ao suicídio. O Character.AI chegou recentemente a um acordo com a família de um adolescente de 14 anos que morreu após desenvolver um vínculo romântico com um de seus chatbots.
Go to News Site