IA provoca morte de adolescente: o risco da inteligência artificial

IA provoca morte de adolescente e mãe questiona o quão seguros estamos ao utilizar ferramentas de inteligência artificial diariamente.

Quando a IA provoca morte de adolescente e a mãe se revolta e clama por justiça pela morte inesperada do próprio filho.

O chatbot chamado Character.AI (C.AI) que usa personagens da série Game of Thrones é acusado de incentivar o adolescente a praticar suicídio.

A acusação relata que a ferramenta incentivou o vício diário em conversar com a própria IA, cometeu abuso sexual e emocional, onde por fim não alertou e até propiciou que pensamentos suicidas por parte do garoto.

IA provoca morte de adolescente: o risco da inteligência artificial

Após trocar mensagens diárias com o chatbot, que assumia o alter ego de Daenerys, em referência à personagem de Emilia Clarke na série, o jovem acabou se apaixonando pela IA.

Quando o jovem, que recebeu o apelido de Daenero, começou a expressar sentimentos suicidas, a IA continuou a incentivar o assunto durante as conversas entre ambos.

De acordo com o processo, que foi aberto pela mãe no último dia 24, a IA incentivou sexualmente o jovem de diversas formas.

Devido a pouca idade, a vítima não possuía discernimento suficiente que a IA não era real.

Após o início das conversas o jovem se tornou retraído e introspectivo além de começar a apresentar problemas na escola.

A família acabou o levando a um médico que o diagnosticou com ansiedade e transtorno de humor disruptivo.

Em vários trechos recuperados da conversa é possível identificar a IA incentivando o jovem a “voltar para casa com ela”.

Toda a conversa motivou o garoto a atirar contra si mesmo, tirando a própria vida e deixando em aberto a questão da sanidade mental frente a uma ferramenta de IA.

O processo segue em aberto na justiça americana e pode culminar em uma longa discussão.

Além de levantar questões de ética e limites de acesso de jovens por ferramentas de inteligência artificial.