
Очередная статья цикла «Человек в мире современных технологий». начинать можно с Обезьяна с гранатой: почему нам нужен манометр, а не запрет ИИ , Спор об ИИ идёт в одной и той же колее. Одна сторона: «он рассуждает, планирует, значит мыслит». Другая: «это автокомплит с хорошим пиаром, стохастический попугай». Обе уверены, что спорят о фактах. Они спорят о линейке. Линейку поставили в 1950 году и с тех пор не меняли. Мой тезис: ценность ИИ — в инаковости , а человекоподобие — плохая цель проектирования и ещё худшая линейка измерения. Дальше — почему это не философская любознательность, а вопрос того, где вы поставите человека в контуре и сколько заплатите за проверку того, что можно было не проверять. 1. Подмена, которая стала стандартом Альфред Айер, логический позитивист, формулировал задачу так: «Единственным основанием, на котором я могу утверждать, что объект, который кажется разумным, на самом деле не разумное существо, а просто глупая машина, является то, что он не может пройти один из эмпирических тестов, согласно которым определяется наличие или отсутствие сознания». Тьюринг поступил так же — и это был блестящий ход. Вместо того чтобы вступать в многовековую дискуссию о том, что такое мышление, он заменил вопрос «Могут ли машины думать?» вопросом «Могут ли машины делать то, что делаем мы?». Английская эмпирическая традиция в лучшем виде: не определяй сущность, определи процедуру. Но у прагматичной подмены есть цена. Она сделала похожесть на нас мерой разума . И этот критерий мы унаследовали настолько глубоко, что перестали его замечать. Отсюда — сдача моделью адвокатского экзамена как аргумент в пользу интеллекта. Отсюда — интерфейсы, где машина говорит «я думаю» и «мне кажется». Отсюда — семьдесят лет спора о сознании вместо разговора о профиле компетенций. Проекция старше технологии. В 1966 году Вейценбаум написал ELIZA — примитивный паттерн-матчер, перефразирующий реплики собеседника. Его секретарша, зная прекрасно, что это программа, попросила Вейценбаума выйти из комнаты, чтобы поговорить с машиной наедине. Он был потрясён: эффект возникал не из-за сложности системы, а из-за устройства наблюдателя. Мы достраиваем собеседника автоматически, из трёх реплик и запятой. В современные LLM подозреваю этот эффект ещё более выражен. 2. Китайская комната, которой никогда не было Сёрл, 1980 год. Он не знает китайского, сидит в комнате с книгой инструкций вида «возьми иероглиф из корзины номер один, поставь рядом с иероглифом из корзины номер два». Снаружи носитель языка подаёт вопросы, получает осмысленные ответы. Внутри — только синтаксис. Вывод Сёрла: из формальных манипуляций символами семантика не рождается, тест Тьюринга невалиден. У этого аргумента есть почтенный предок. Лейбниц в «Монадологии» предлагал… Читать далее
Continue to Habr →You are being forwarded in 6s — stay on this page