нас появился GenAI, современные ИИ-агенты объединились в оркестры, решают математические задачи из списка XXI века, такие Уравнения Навье — Стокса. У нас есть вайб-кодинг и открытие новых лекарств. Представители Anthropic заявили о подозрении на существование если и не сознания, то о приближении к AGI у последней версии Fable. А еще они заявили об обнаружении подсистемы эмоционального интеллекта, правда, в виде паттернов разреженных кортежей слов. И здесь возникает вопрос: как не потеряться во всем этом великолепии? Как AI-инженеру не оказаться вытесненным своим же собственным детищем? Ведь сегодня каждый CEO, да что уж там, каждый сотрудник может сам себе накодить AI-агента, создать свой маленький (или большой) оркестр и никто им вроде бы не нужен. Однако реальность такова, что только 6% опрошенных доверяют ИИ, хотя так или иначе AI-агентами пользуются 66%. Основная проблема – правдоподобный вывод. Суть проблемы в том, что найти «классическую» ошибку легко, а ошибку, которая выглядит как истина - сложно. Она размыта внутри большого количества связей, где каждая отдельная связь или отдельный вывод верны сами по себе. И здесь, как мне кажется, критическим навыком становится умение видеть тривиальное и парадоксальное, то, что является «здравым смыслом» и «странным» или парадоксальным. Именно этими навыками и должны сегодня обладать AI-инженеры. Для понимания дальнейшего рассуждения необходимо сделать несколько посылов: 1. Современные ИИ можно понимать как аппроксимационную машину. Читать далее
Continue to Habr →You are being forwarded in 6s — stay on this page