Eles podem enganar os humanos bet3652 jogos de tabuleiro, codificar a estrutura das proteínas e manter uma conversa aceitável; mas 🏧 como sistemas IA cresceram na sofisticação também tem bet3652 capacidade para o engano.

A análise, por pesquisadores do Instituto de Tecnologia 🏧 (MIT) Massachusetts Institute of Technology - MIT Institut for the Massachussets institute and technology Researchers identifica casos abrangente dos sistemas 🏧 AI que cruzam oponentes bet3652 dupla cruzada e fingem ser humanos. Um sistema até alterou seu comportamento durante testes simulados 🏧 da segurança aumentando a perspectiva das auditoria serem atraída para uma falsa sensação na área segura;

“ medida que as capacidades 🏧 enganosas dos sistemas de IA se tornam mais avançadas, os perigos eles representam para a sociedade vai tornar-se cada vez 🏧 maior grave”, disse o Dr. Peter Park? um pesquisador bet3652 segurança existencial da AI no MIT e autor do estudo.”

O 🏧 Parque foi solicitado a investigar depois que o Meta, dono do Facebook desenvolveu um programa chamado Cícero e realizado nos 🏧 10% melhores jogadores humanos no jogo de estratégia Diplomacia. A meta afirmou ter sido treinado para ser "em grande parte 🏧 honestos" (e útil)? nunca backtab intencional - seus aliados seres Humanos!

"Era uma linguagem muito rosada, que era suspeita porque o 🏧 backstabbing é um dos conceitos mais importantes do jogo", disse Park.

Park e colegas examinaram dados publicamente disponíveis, identificaram várias instâncias 🏧 de Cícero contando mentiras premeditadas para atrair outros jogadores bet3652 parcelas que justificavam bet3652 ausência depois da reinicialização dizendo a 🏧 outro jogador: "Estou ao telefone com minha namorada."

A equipe do MIT encontrou problemas comparáveis com outros sistemas, incluindo um programa 🏧 de poker Texas Hold 'em que poderia blefar contra jogadores humanos profissionais e outro sistema para negociações econômicas.

Em um estudo, 🏧 os organismos de IA bet3652 simulador digital "brincaram mortos" para enganar o teste construído com a finalidade eliminar sistemas que 🏧 evoluíram rapidamente e se replicam antes da retomada das atividades vigorosas quando as provas foram concluída. Isso destaca ainda mais 🏧 esse desafio técnico: garantir-se não ter comportamentos indesejado ou imprevisto;

"Isso é muito preocupante", disse Park."Só porque um sistema de IA 🏧 seja considerado seguro no ambiente do teste não significa que ele esteja a salvo na natureza, pode estar apenas fingindo 🏧 ser segura bet3652 testes."

A revisão, publicada na revista Patterns convida os governos a projetarem leis de segurança da IA 🏧 que abordem o potencial para engano. Os riscos dos sistemas desonestoS incluem fraude e manipulação das eleições onde diferentes usuários 🏧 recebem respostas distintas; eventualmente se esses sistema puderem refinar bet3652 capacidade perturbadora por enganar humanos podem perder controle sobre eles 🏧 – sugere um artigo publicado no periódico The Guardian (The New Yorker).

Anthony Cohn, professor de raciocínio automatizado da Universidade do 🏧 Leeds e Alan Turing Institute disse que o estudo foi "temporário" para ser bem-vindo", acrescentando haver um desafio significativo bet3652 🏧 como definir comportamentos desejáveis ou indesejáveis nos sistemas AI.

"Atributos desejáveis para um sistema de IA (os" três Hs") são frequentemente 🏧 observados como sendo honestidade, utilidade e inofensa; mas tal qual já foi observado na literatura textualmente estas qualidades podem estar 🏧 bet3652 oposição uma à outra: ser honesto pode causar danos aos sentimentos da pessoa ou ajudar a responder às perguntas 🏧 sobre o modo do desenvolvimento duma bomba poderia provocar mais efeitos", disse ele.

Um porta-voz da Meta disse: "Nosso trabalho de 🏧 Cícero foi puramente um projeto e os modelos que nossos pesquisadores construíram são treinados exclusivamente para jogar o jogo Diplomacia... 🏧 A meta compartilha regularmente resultados das nossas pesquisas, validando a bet3652 capacidade bet3652 permitir aos outros construirem responsavelmente com base 🏧 nos avanços. Não temos planos do uso desta pesquisa ou dos seus aprendizados no nosso produto."