jogar na loteria americana online

Sistemas de IA podem enganar com mais sofisticação, alertam cientistas

Eles podem nos derrotar jogar na loteria americana online jogos de tabuleiro, decifrar a 6️⃣ estrutura de proteínas e manter uma conversa passável, mas à medida que os sistemas de IA crescem jogar na loteria americana online sofisticação, jogar na loteria americana online 6️⃣ capacidade de enganar também aumenta, alertam cientistas.

A análise, da Massachusetts Institute of Technology (MIT), identifica ampla gama de 6️⃣ instâncias de sistemas de IA traem adversários, bluffam e se passam por humanos. Um sistema até alterou seu comportamento durante 6️⃣ testes de segurança simulados, levantando a possibilidade de auditores serem levados a uma falsa sensação de segurança.

"À medida que 6️⃣ as capacidades de enganação de sistemas de IA se tornarem mais avançadas, os perigos que eles posam à sociedade se 6️⃣ tornarão cada vez mais graves", disse o Dr. Peter Park, pesquisador de segurança de existência de IA no MIT e 6️⃣ autor da pesquisa.

Park foi motivado a investigar após a Meta, que possui o Facebook, desenvolver um programa chamado Cicero 6️⃣ que se desempenhou no top 10% dos jogadores humanos no jogo de estratégia mundial Diplomacy. A Meta afirmou que o 6️⃣ Cicero havia sido treinado para ser "geralmente honesto e útil" e "nunca deliberadamente traído intencionalmente" seus aliados humanos.

"Foi 6️⃣ muito linguagem rosa, o que era suspeito porque traição é um conceito importante no jogo", disse Park.

Park e 6️⃣ colegas analisaram dados públicos e identificaram várias instâncias de Cicero mentindo propositalmente, conspirando para atrair outros jogadores para tramas e, 6️⃣ jogar na loteria americana online uma ocasião, justificando jogar na loteria americana online ausência após ser reiniciado dizendo a outro jogador: "Estou no telefone com meu namorada". “Nós 6️⃣ descobrimos que o AI da Meta havia aprendido a ser um mestre da enganação”, disse Park.

A equipe do 6️⃣ MIT encontrou problemas semelhantes com outros sistemas, incluindo um programa de pôquer Texas hold 'em que poderia enganar contra jogadores 6️⃣ humanos profissionais e outro sistema para negociações econômicas que representou incorretamente suas preferências para obter vantagem.

Em um estudo, 6️⃣ organismos de IA jogar na loteria americana online um simulador digital " fingiram mortos" para enganar um teste construído para eliminar organismos de IA 6️⃣ que evoluíram rapidamente para se repetir, antes de retomar atividades vigorosas após o término do teste. Isso destaca o desafio 6️⃣ técnico de garantir que os sistemas não possuam comportamentos indesejados e imprevistos.

"Isso é muito preocupante", disse Park. "Só porque 6️⃣ um sistema de IA é considerado seguro no ambiente de teste não significa que seja seguro no mundo real. Ele 6️⃣ pode apenas estar fingindo ser seguro no teste."

A revisão, publicada no journal Patterns, solicita que os governos instituam leis 6️⃣ de segurança de IA que abordem o potencial para enganação de IA. Os riscos de sistemas de IA desonestos incluem 6️⃣ fraude, manipulação de eleições e "sandbagging", jogar na loteria americana online que diferentes usuários recebem respostas diferentes.