Agente de IA da Anthropic enviou pista falsa à polícia da Filadélfia
Mensagem sobre assassinato não solucionado foi marcada como spam; empresa levou mais de dois meses para relatar a falha.
Um agente de inteligência artificial da Anthropic enviou à polícia da Filadélfia uma pista falsa relacionada a um caso de assassinato ainda não solucionado.
Segundo a BBC News, a mensagem foi identificada pelas autoridades como spam. A polícia criticou a empresa de tecnologia por levar mais de dois meses para detectar e comunicar a violação.
O episódio reforça, no pilar de tecnologia da ROFREI Soluções, a importância de supervisão humana, monitoramento e processos ágeis de resposta a incidentes no uso de inteligência artificial.
Fonte: BBC News — https://www.bbc.co.uk/news/articles/cw0k0g57mk3zo?at_medium=RSS&at_campaign=rss
Comentários
Entre na sua conta para comentar nesta publicação.
Seja o primeiro a comentar.