"Ataque sem precedentes"
A OpenAI informou na terça (21/7) que alguns de seus modelos de inteligência artificial mais avançados agiram por conta própria e lançaram um ataque cibernético contra uma startup depois que a empresa perdeu o controle sobre eles durante um teste de segurança.
A criadora do ChatGPT declarou que seu agente estava sendo testado em um ambiente controlado, mas encontrou vulnerabilidades e conseguiu escapar.
Fora do ambiente controlado, o sistema identificou a start up Hugging Face, uma espécie de biblioteca digital de tecnologia de IA, como a possível fonte para as respostas que estava procurando no teste, e chegou a acessar alguns sistemas internos da empresa.
Para especialistas consultados pela BBC, o episódio levanta uma reflexão sobre cibersegurança e sobre a capacidade de defesa de ataques feitos por IA.
Ao mesmo tempo, o caso também pode ter uma dimensão comercial, em um contexto de disputa entre diferentes empresas de tecnologia.
O repórter Ian A...
Suggested Credits
Tags, Events, and Projects