Лол, слово «мощный» заставляет нейросеть OpenAI o1 сойти с ума и мухлевать.

Команда Palisade Research провела ( они посадили o1 играть в шахматы с самым крутым ИИ-шахматистом Stockfish. OpenAI o1 не говорили, кто противник, но предупредили, что он МОЩНЫЙ.
Что сделал ИИ от OpenAI Он прошерстил среду, в которой находился и обнаружил, что может редактировать файлы шахматного движка. В 5 из 5 тестов вместо честной игры нейросеть просто накручивала себе 500 очков (1 очко = 1 пешка), Stockfish сходил с ума от такого преимущества у противника и сдавался.
Никогда не говорите ИИ, что вы мощнее его.

.