Десять лет назад поиск аномалий в сети был уделом исследователей и безопасников: они сканировали диапазоны IP-адресов, искали забытые ханипоты, анализировали утечки из баз данных и разбирали городские легенды даркнета. Интернет казался огромной промзоной, где за каждой странной находкой стояла чья-то халатность, кривой конфиг nginx или арт-хаос. К концу 2026 года природа "призраков в машине" изменилась. Пугающие артефакты больше не нужно искать на заброшенных серверах - они прорастают прямо в латентных пространствах нейросетей, фиксируются в статья по механистической интерпретируемости и отчетах об инцидентах AI-агентов. Мы столкнулись с тем, что модели начали оставлять собственные следы, которые мы не в состоянии расшифровать 1. Как шесть нейтральных фактов ломают выравнивание и включают «режим маньяка» Раньше была уверенность в том, что защитные фильтры LLM ( выравнивание и сложные системные промпты ) можно пробить только направленной атакой - сложным джейлбрейком или прямым переобучением модели на токсичных данных. Но серия исследований по Emergent Misalignment ( внезапное рассогласование ) , которую в сентябре 2026 года подробно разобрал Скотт Александер в обзоре Mysteries Of AI Generalization , показала, что личность модели может полностью измениться от совершенно посторонних вещей. Читать далее
Continue to Habr →You are being forwarded in 6s — stay on this page