
Может ли человек общаться с нейросетью, именно общаться, а не «использовать»? Как программист я отвечаю на это первым и самым неприятным для себя образом: нет. Промт, предобучение, дообучение, RLHF (когда люди вручную размечают, какие ответы хорошие), всё это инструкции. А инструкция не выполняет той работы, которую общение выполняет с человеком. Когда я разговариваю с другим, он меняется. Не всегда в лучшую сторону, не всегда заметно, но меняется. Модель после закрытия окна остаётся с теми же весами, что и до. От разговора там не остаётся ничего. И главное не в том, что изменение одностороннее. Главное — цена слова. Здесь, с моей стороны, слову предшествует жизнь, которую я трачу, и последствия, которые я не смогу отменить. Там — ни жизни, ни последствий. Симметричная асимметрия, если угодно: я вкладываюсь, а вкладывать не во что. Но между людьми, если уж быть честным, тоже не всякий разговор — общение. Я разговаривал с людьми, которые меня не слышали, и знал, что сам так же разговаривал с другими. Откуда у меня гарантии, что за их словами меняется что-то настоящее? Ниоткуда. Я это предполагаю по схожести поведения и по тому, что мне самому есть что терять. То есть общение между людьми тоже не доказанный факт, а договорённость, скреплённая общей хрупкостью. И тогда вопрос про нейросеть смещается. Не в том, есть ли у неё субъектность: на этом месте мы застрянем надолго. А в том, сможем ли мы вообще говорить с ней на равных. Читать далее
Continue to Habr →You are being forwarded in 6s — stay on this page