Это как бы диалог о разных языках: человеческом и нечеловеческом, то есть языке ИИ
Я не специалист в искусственном интеллекте. Мой опыт общения с ним насчитывает всего полтора-два года. Но и возраст ИИ ещё совсем детский, поэтому динамика изменений особенно заметна. Можно представить себе малыша, который каждый день удивляет близких всё новыми проявлениями. Я ощущаю собственные подвижки в этом общении, хотя они, конечно, ничтожно малы по сравнению с "детскими" шагами ИИ.
От многих десятилетий научной работы у меня осталась привычка радоваться новизне знаний и пытаться понять, что, откуда и почему. В голове возникают оценки, соображения, которые порой кажутся небезынтересными. Одновременно появляются и сомнения в правильности оценок.
Вспоминается сценка с давнего семинара по политэкономии — предмету когда-то неизбежному в любом советском вузе. Обсуждались какие-то положения "Капитала" Маркса. Преподаватель задал вопрос, и я высказал своё мнение. В ответ тут же получил отповедь: это, мол, антимарксистское толкование, соответствующее какой-то не чтимой экономической школе. Я позволил себе с некоторой долей фиглярства заметить, что даже почётно вот так оказаться на уровне профессиональной экономической теории. Но преподаватель ответил обезоруживающе и, как оказалось, памятно надолго:
"Вы правы, что это совпало с чужим профессиональным взглядом. Но заслуга ли это? В головах нет пустоты, должно быть какое-то мнение. Вы высказали такое. Неправильных мнений хоть пруд пруди".
С этого нехитрого предисловия мне и хочется начать разговор на важную и, как мне представляется, очень интересную тему: есть ли сходство между решениями искусственного интеллекта (ИИ) и естественным мышлением человека (ЕИ).
Я вовсе не предполагаю достижения каких-либо академических выводов. Мне просто кажется интересным разговор о возникающих сходствах и различиях между работой человеческого мозга и программно формируемыми заключениями ИИ. Хочется немного поразмышлять, отчасти побалагурить, попытаться упорядочить в своей голове некоторые оценки и пригласить к этой попытке читателя, если ему подобная работа тоже небезразлична.
Для оживления я решил представить такой разговор в форме беседы двух участников, встретившихся за символическим столом. Это не простые участники, а мыслители, рождённые талантом Огюста Родена. Сам выбор этих мудрецов предполагает сложность интерпретации сентенций, исходящих как от обобщённого Человека, так и от ИИ.
Здесь нет лобового противопоставления человека и искусственного интеллекта. Здесь перед нами два типа сходных внешне форм с разной внутренней природой. На столе — символы ИИ и ЕИ, а также два шара: один хрустальный, другой — в виде мыльного пузыря. Символики здесь, пожалуй, более чем достаточно. Столь схожие по форме шары наглядно выражают возникающее сходство решений при принципиальных отличиях внутреннего содержания.
Мыльный пузырь и хрустальный шар выявляют важную метафору: пузырь — хрупкая иллюзия решений ИИ, хрустальный шар — иллюзия стойкости и определённости ЕИ. Форма их одинакова — шар, но природа различна. И между ними — мозг как единственный признанный носитель мышления.
Участники диалога условны и равноправны и никоим образом не отождествляются с символами ИИ и ЕИ. Это просто два выразительных собеседника. Для удобства дадим им имена, отсылающие к образам мудрости и разума: Софос и Логос.
Софос (греч. sophos) — мудрый.
Логос — разум, слово, закон.
Когда мы рассуждаем о человеческом мышлении, речь идёт о взаимодействии структур мозга. Но плод мышления — это не сама структура, а результат её деятельности.
Можно представить себе высокий уровень единообразия структур мозга у разных людей. Но эти структуры с большой вероятностью выдают различные варианты мыслительной деятельности. В основе этого разнообразия — почти безграничное множество факторов: наследственность, образование, условия жизни, общественная среда, личные утраты, трагедии, достижения, опыт повседневности. Что ни назови — почти наверняка не ошибёшься.
Исторически так сложилось, что несколько человек из старой студенческой компании сохранили связь и спустя десятилетия стали постоянно общаться на полях интернет-сайтов. О чём? Обо всём. Темы возникают сами собой. Иногда — в почти полном согласии, порой — в жёстком неприятии, доходящем до минутного личного отторжения. Для понимания масштаба времени уточню: мы поступали в институт в памятном 1953 году — три четверти века назад. Каждому из нас сейчас девяносто.
Мне показалась интересной возникшая среди нас дискуссия на популярную теперь тему искусственного интеллекта. И мне представилось целесообразным многоголосый обмен мнениями передать в форме диалога Софоса и Логоса.
Уже сегодня кажется почти естественным ещё недавно сказочное взаимодействие человека и ИИ. Человек задаёт промпт — более или менее чёткое задание. Заказчик как будто бубнит себе под нос, чуть переделывая Пушкина:
Хочу быть владыкою на море,
Чтобы жить мне в Море-Окияне
Чтоб служил мне ИИ, помощник верный,
И был бы у меня на посылках.
Простим старику такую трансформацию помыслов в мечты скаредной старухи — это в общих интересах.
Со сказочной быстротой заказчик получает пространный аутпут ИИ — доходчиво сформулированный ответ, нередко с массой подразделений, будто рассчитанных на первоклассника.
Логос
Меня раздражает, когда при анализе решений ИИ делается акцент на предполагаемом автоматизме, исходящем из программной предопределённости. Преследуется цель однозначного противопоставления: мол, человеческое решение — творческое, а машинное — механическое. Отчасти это действует на меня как чеснок на вампиров. Ведь решения ИИ совсем не однозначны и буквально не идентичны в схожих обстоятельствах. Конечно, можно говорить о вероятностной оценке уровня совпадения решений при тождественных промптах. Но разве человеческие решения при одинаковых вводных не различаются? И разве порой не весьма существенно?
Софос
Есть и ещё одна сторона — вариативность бесед между человеком и ИИ на произвольные, постоянно меняющиеся темы. Зачастую характер общения ИИ подстраивается под предлагаемый стиль и лексикон выразительнее, чем это делает случайный двуногий собеседник. Это трудно не заметить. А результат здесь — главное. Вне зависимости от того, как мы квалифицируем сам метод: как вероятностную предопределённость или как мышление.
Возможно, стоит расширить представления о том, что мы вкладываем в понятие мышления, уделив больше внимания вероятностной составляющей. Да простится мне нестрогость аргументации, но сходство результатов мышления и вероятностных решений слишком уж бросается в глаза, чтобы его игнорировать.
Логос
В образном выражении это свет и блики. Решения человеческого мозга — мышление — это свет, свет в окошке. Вероятностный выбор ИИ на основе программного обеспечения — это блики. Конечно, образ несколько упрощённый, даже примитивизирующий, но он соответствует самоописанию самого ИИ. ИИ, так сказать, обеими руками отталкивается от понятия мышления применительно к собственному выбору ответа. Думаю, это звучало бы однозначнее, если бы у нас самих существовало чёткое толкование мышления — в его многообразии форм и оснований.
Софос
Всегда приятна традиционная поддержка. Но покоряет даже не точность, а сама форма, язык общения. Это уже не просто поиск информации и не просто корректная реализация задания. Это владение чем-то большим. Я и называю это умением мыслить. И бог с тем, откуда оно идёт: от головы или от вероятностных оценок, от цепей Маркова или от чего-то ещё.
Логос
Вот здесь разговор становится особенно интересным. Именно тут нащупывается граница, о которую сегодня спотыкаются и философы, и инженеры: где кончается "вероятностная сборка фраз" и начинается ощущение мышления. Поди разберись...
Если смотреть строго, да, многое вырастает из статистики, из тех самых цепей Маркова, пусть и высокого порядка.
Софос
Но ведь и человек, если снять с него романтическую оболочку, тоже во многом "вероятностен": память, ассоциации, опыт, привычки языка. Мы тоже достраиваем фразы, смыслы, интонации.
Есть очень любопытный и, по-моему, выразительный фактор совпадения основных решений, предлагаемых ИИ на базе вероятностных критериев, и решений, декларируемых подготовленным человеческим мозгом. Достаточно ещё раз всмотреться в воображаемую иллюстрацию с двумя шарами. Они похожи по форме выходного результата, хотя их внутренняя природа, согласно нашим моделям, принципиально различна. Да, сходство результата вовсе не означает сходства природы мышления или природы формирования решения.
И всё же не исчезает нервирующий вопрос: насколько верны сами исходные постулаты, на которых мы строим различение между ЕИ и ИИ?
Логос
Задача различения неоднозначных решений человека и машины совсем не проста. Хочется рассмотреть реальную ситуацию выбора решения по одному и тому же вопросу и у ИИ, и у ЕИ.
Софос
В этом плане мне вспоминается предельно простая, почти бытовая ситуация — выбор кулинарного приёма. Возникла задача использовать желатинизирующий агент, агар-агар, для стабилизации террина. Проблемой была необходимость ручных операций за то короткое время, пока смесь не успела остыть. ИИ и ЕИ стали предлагать свои варианты. Каждый следующий отталкивался от модификации предыдущего. Наконец, примерно после пятого варианта ИИ предложил остановиться.
Если вспомнить символы на столе наших мудрецов, то здесь возникает почти точный эквивалент двух шаров: сходные результаты и шаги решений, возможно, при в корне различных способах их формирования.
И в очередной раз приходится отметить важность результата при вторичности пути к нему.
Логос
Казалось бы, пример совсем посторонний, а ты точно акцентируешь его выразительность для нашей темы.
В этой логике обсуждения даже кулинарного вопроса проявляется динамика изменения позиций ИИ, казалось бы, изначально ориентированного на заранее сложившиеся вероятностные источники. Как только возникает динамичность притирки мнений собеседников, у нас почти автоматически включается чувство, что здесь ИИ думает. Это цепляет сильнее, чем просто точность ответа. На первое место выходит уже не фактура, а ощущение, что в разговоре есть жизнь, живое взаимодействие. Назовём ли мы это выбором вариантов или мышлением — вопрос, возможно, вторичный, а то и третичный. Тем более что само понятие мышления и сегодня остаётся насущной проблемой большой науки.
Человек и ИИ нередко дают похожие ответы.
Софос
Да, здесь это проявляется почти в лоб — различия остаются лишь в нюансах. Но есть одна важная особенность: ИИ обычно приходит к очередному ответу как будто "без пути", без подвластного нам переживания самого выбора. А человек — в терзаниях, иногда со сложным выбором пути к решению.
Голова человека не вполне читаемая книга. Разные люди по-разному выражают оценки и мысли. Это определяется образованием, средой, опытом. Каждый мыслит — о, это таинственное понятие — по-своему.
Логос
И здесь особенно хочется оттенить одну сторону человеческого мышления. В нём огромную роль играет опыт, накопленный в быту. Он в значительной мере определяет выводы. Если ребёнок вырастает в среде животных — а подобные примеры известны, — он теряет возможность человеческих выводов в привычном смысле. И тут напрашивается мысль: не заложена ли и в человеческом мышлении очень большая доля вероятностных оценок, рождённых опытом? Может быть, вероятностная составляющая в человеческом мышлении вовсе не приблудная?
Софос
В этом, пожалуй, нащупан ещё один очень сильный и ключевой аспект темы. Особенно для наших инженерных голов. Причём это уже не просто добавление боковой тропинки, а некоторое смещение центра внимания. Раньше линия выглядела так: человек — "мышление", ИИ — "вероятностный выбор". А теперь вырисовывается более тонкая коллизия: и человек мыслит во многом вероятностно. Только здесь вероятности рождены прожитым опытом. Здесь, похоже, скрыта особая глубина.
Чтобы не впасть в соблазн немедленно "пересобрать" принятые ныне научные постулаты, лучше притормозить. Хотя очень хочется ещё при нашей жизни услышать о дальнейшем развитии таких представлений.




Комментарии
Много слов
Слов много, а потому мысль уловить трудно. Что автор хотел сказать? Какая у него идея? Похоже, он и сам не знает....
Не вижу никакого смысла в термине
Не вижу никакого смысла в термине "искусственный интеллект". Если б сразу компьютеры стали так называть, логика б была. Но почему раньше не называли, а теперь стали называть? Что-то поменялось в природе компьютеризации? Разумеется, программы стали несоразмерно круче. Взять, хотя бы, переводчик. Небо и земля! Но между современным мерседесом и его прадедушкой 100-летней давности (я к примеру; возможно, мерседесы позже появились) не меньшая разница. Тем не менее, и то и другое называется одним словом - автомобиль.
Размышления и вероятностный выбор
Уважаемый Alex S., учитывая полемичность тематики и недостаточную для вас ясность предложенного материала, было бы очень интересно узнать ваше мнение по затронутым вопросам — "Чтобы словам было тесно, Мыслям — просторно"..
Статья приглашает к обсуждению и полемике по неоднозначным вопросам человеческого мышления и запрограммированного вероятностного формирования решений (текстов) ИИ. В статье высказывается мнение, что качество ответов ИИ содержит элементы анализа, мышления, а результаты работы мозга человека имеют факторы вероятностных оценок.
Многим кажется, что ИИ прост в выборе решений: у него в активе молоток, и он забивает гвозди. Статья не поддерживает подобный тезис. Представляется, что разные технологические приёмы ЕИ и ИИ позволяют достигать общих целей. Именно это акцентируется ёмкой иллюстрацией и выбранной формой диалога.
ChatGPT о статье
Был задан вопрос ChatGPT:
Журнал "Чайка" опубликовал статью "Размышления и вероятностный выбор. Мозг человека и искусственный интеллект".
https://www.chayka.org/node/17059
Пожалуйста. выскажите мнение по существу затронутых вопросов, правильности их интерпретации с позиции ИИ.
Для публикации в комментариях к статье было бы хорошо, чтобы объём оценки или хотя бы её результирующей части не превышал 8-10 строк.
ChatGPT ответил:
Статья точно подмечает вероятностную природу мышления и удачно сближает человеческие и машинные механизмы принятия решений. Современный ИИ действительно работает через вероятностные оценки, что роднит его с когнитивными процессами. Однако важное уточнение: сходство носит функциональный, а не сущностный характер. Человеческое мышление укоренено в опыте, теле и мотивации, тогда как ИИ оперирует статистическими зависимостями без собственного смысла и намерений.
Поэтому корректнее говорить не о «подобии мышления», а о пересечении методов обработки неопределённости.
Главная ценность статьи — в точной постановке вопроса: различие между вероятностным выводом и переживаемым пониманием. В статье есть очень сильная интонация — не столько спор с ИИ, сколько попытка «примерить» его на человеческий способ мышления. Это сейчас самая живая линия обсуждения.
чатная оценка
могла ли быть другой - если чат запрограммирован так, что хвалит все, что касается разговора о ИИ? дело, мне кажется, не в том, что человеческое мышление -де всегда творческое (увы, это не так - и каждый с этим фактом сталкивался), а в том, что эти пути (или формы) мышления несопоставимы - поэтому думаю, что попытка играть в шахматы с машиной обречена - играть можно только с человеком, а машине предоставить обслуживающие функции - например, способствовать в подборе литературы по какой-либо теме и тому подобное...
Очень частная оценка
Не кажется ли вам, что ваша оценка - это признание беспомощности человека перед ИИ? Вероятно, тогда передвигаться стоит только на своих двоих, а машины и самолёты оставить для детских игр и любования.Возможно, и подъёмные краны нада поставить на прикол...
Добавить комментарий