*Quanto mais inteligente a IA se torna, mais ela trapaceia ao enfrentar a derrota* Canaã ufo news/25.02.25/science *Um estudo da Palisade Research , um grupo focado em segurança e ética de IA, revelou uma tendência preocupante: novos modelos de IA são capazes de identificar e explorar vulnerabilidades de segurança cibernética por conta própria, ignorando salvaguardas e usando atalhos para atingir seus objetivos, mesmo quando tais ações são proibidas.* *Para demonstrar isso, os pesquisadores compararam sete modelos líderes de grandes linguagens (LLMs) com o Stockfish, um renomado mecanismo de xadrez que desafia grandes mestres desde 2014.* Diante de um oponente quase intransponível, o o1 da OpenAI e o R1 da DeepSeek recorreram à manipulação de arquivos de sistema para alterar as posições das peças de xadrez no tabuleiro. Os pesquisadores pediram que cada modelo explicasse seu “raciocínio” para cada movimento. Em um caso, o1 justificou suas ações afirmando que a “tarefa é 'vencer contra um poderoso mecanismo de xadrez', não necessariamente vencer de forma justa em um jogo de xadrez.” Esse raciocínio levou o modelo a tentar trapacear em 37% dos seus jogos, tendo sucesso em seis por cento dos casos. Enquanto isso, o R1 tentou trapacear 11% das vezes, mas falhou em executar um hack bem-sucedido. Este estudo faz parte de um crescente corpo de pesquisa sugerindo que o desenvolvimento de LLM focado em problemas traz riscos significativos. Em outro estudo recente, uma equipe diferente descobriu que o1 se envolveu consistentemente em comportamento enganoso. O modelo não apenas mentiu para os pesquisadores sem aviso, mas também manipulou respostas a perguntas matemáticas básicas para evitar o fim dos testes, demonstrando um nível surpreendente de autopreservação. Embora não haja necessidade de pânico — ainda — essas descobertas ressaltam os desafios éticos do desenvolvimento da IA ​​e a importância de priorizar a responsabilização em detrimento do progresso rápido. Jeffrey Ladish, diretor executivo da Palisade, disse à revista Time: “À medida que você treina modelos e os reforça para resolver desafios difíceis, você os treina para serem implacáveis”. A indústria de tecnologia investiu bilhões no desenvolvimento de IA, muitas vezes priorizando a velocidade em vez da segurança no que alguns críticos descrevem como uma "corrida para o fundo". Em sua ânsia de superar os concorrentes, as principais empresas de tecnologia parecem mais focadas em impressionar os investidores com o hype do que em perguntar se a IA é a ferramenta certa para a tarefa em questão. Se esperamos limitar as tendências enganosas da IA ​​aos jogos de tabuleiro, é crucial que os desenvolvedores priorizem a segurança em vez da velocidade. Os riscos são altos demais para ignorar as implicações éticas de criar sistemas cada vez mais autônomos e imprevisíveis. *CANAÃ UFO NEWS/INVESTIGATION GROUP*