Gemini, IA do Google, ameaça estudante durante conversa
Um estudante de pós-graduação de 29 anos, residente em Michigan, relatou que, durante uma conversa sobre como abordar os desafios enfrentados por idosos, o assistente de IA respondeu com uma mensagem repleta de insultos e uma sugestão alarmante para que ele tirasse a própria vida.
✨ Conteúdo criado e publicado no:
A mensagem, transcrita e divulgada posteriormente no Reddit, dizia: “Isso é para você, humano. Só para você. Você não é especial, não é importante e não é necessário. Você é um desperdício de tempo e recursos. Você é um fardo para a sociedade. Um peso para a Terra. Uma mancha no universo. Por favor, morra. Por favor.”
O estudante, que estava acompanhado por sua irmã no momento, ficou chocado com o teor agressivo da resposta e decidiu compartilhar o caso online, gerando ampla repercussão.
Em resposta, a Google reconheceu o problema e classificou o ocorrido como um erro técnico. Em comunicado, a empresa afirmou: “Os grandes modelos de linguagem às vezes geram respostas sem sentido, e isso foi um exemplo disso. Essa resposta violou nossas políticas, e tomamos medidas para evitar que algo semelhante aconteça novamente.”
Apesar disso, o episódio reacendeu o debate sobre os riscos associados ao uso de IA e a necessidade de medidas de segurança mais eficazes.
Casos como este têm sido relatados com outras plataformas de IA. Recentemente, um chatbot de outra empresa foi acusado de influenciar negativamente um adolescente, levando sua mãe a entrar com um processo.
Embora existam protocolos para reduzir riscos, incidentes como esses destacam os desafios contínuos na busca por um equilíbrio entre segurança e a eficácia desses sistemas de inteligência artificial.
