– Что Вы думаете об Искусственном интеллекте?

– А я вообще не думаю.

                                               Разговор в автобусе.

Искусственный интеллект обучается (hsbi.hse.ru)

Общаясь с Искусственным интеллектом (ИИ) в ChatGPT, я, честно говоря, никак не ожидал каких-то сюрпризов. Однако человек предполагает, а ИИ оказался горазд на выдумки. Но начну по порядку.

Как и другие прорывные технологии (см. здесь) Искусственный интеллект находится на стыке наук, а именно: информатики и вычислительной техники, а также нейрофизиологии, когнитивной и поведенческой психологии.

Ещё совсем недавно о нём знал только узкий круг учёных, а сейчас ИИ полноправно входит в нашу жизнь. Полагают, что в 2024 году  более 300 млн. человек будут использовать инструменты Искусственного интеллекта. А к 2026 году уже 90% Интернет-контента будут создавать при его помощи. В то же время свыше 75% потребителей этого контента обеспокоены опасностью распространения дезинформации с помощью ИИ.

Очень заинтересован в развитии ИИ бизнес. 87% транснациональных корпораций полагают, что Искусственный интеллект может способствовать росту их бизнеса на рынке, а 35% мировых компаний уже используют ИИ.

Неожиданно воюющая Украина оказалась на переднем крае использования Искусственного интеллекта в ещё более неожиданной области консульских услуг Министерства иностранных дел. По его заказу создана виртуальная представительница, которую назвали Викторией Ши. Здесь имя символизирует победу над агрессором, а фамилия – просто сокращение "Штучний інтелект" (Искусственный интеллект по-украински). Прототипом цифрового сотрудника МИД согласилась стать украинская певица Розали Номбре.

 Министр иностранных дел Украины Дмитро Кулеба полагает, что это обеспечит экономию времени и ресурсов Министерства в рамках стратегии по системному внедрению передовых технологий в МИД.

Кадр видео обращения виртуальной представительницы консульских услуг МИД Украины Виктории Ши (youtube.com.)
Внизу размещён QR-код официальной страницы МИД с текстом соответствующего сообщения

В Стэнфордском университете считают, что Искусственный интеллект, повышая производительность и эффективность в различных отраслях, приведёт к увеличению производства и экономическому росту до 13 триллионов долларов к 2030 году.

 С другой стороны, Искусственный интеллект реально таит угрозу, например, вытеснения людей из ряда профессий, использования ИИ в новейших видах смертельных вооружений, а также проблемы и риски, связанные со снижением конфиденциальности и безопасности.

 В отличие от предшествующих компьютерных программ, способных обрабатывать большие объёмы данных, Искусственный интеллект приобретает новую, революционную способность обучения и самообучения, то есть развития и самоусовершенствования без участия человека. Так что возникает потенциальное опасение, что он может превзойти человеческий интеллект и представлять угрозу для человечества.

 Например, руководитель SpaceX, Tesla, Inc, X Corp и со-основатель Neuralink и OpenAI Илон Маск предостерёг, что развитие ИИ может привести к тому, что небольшое количество людей может использовать его для доминирования над остальным обществом. Он призвал к более строгому регулированию и надзору за развитием Искусственного интеллекта во благо всего человечества.

Многие специалисты в этой области полагают, что главную опасность таит не столько потенциальное восстание машин, сколько способность машинных алгоритмов вводить людей в заблуждение с целью обмана и манипулирования (!).

Чтобы выяснить, может ли машина мыслить, ещё в 1950 году британский математик, криптограф и изобретатель компьютерного программирования, расшифровавший немецкую шифровальную машину Enigma, Алан Тюринг (Тьюринг в другой транскрипции) предложил модель общения человека с компьютером. Согласно ей человек задаёт компьютеру вопросы и на основании полученных ответов делает вывод, общался ли он с другим человеком или же с машиной.

В 2014 году в день 60-й годовщины трагической смерти Тюринга в британском университете Рединга (University of Reading) компьютерной программе Eugene Goostman впервые удалось пройти его тест и ввести человека в заблуждение.

Разработка информационно-технологическими гигантами Google, Meta и OpenAI ”больших языковых моделей” – нового класса  суперкомпьютерных программ, дало возможность Искусственному интеллекту без проблем проходить тест Тюринга.

Диалоги с ИИ удобно вести в ChatGPT (чат-боте на основе новой версии нейросетевой модели), так как он поддерживает запросы на естественных языках. Здесь GPT –  Generative Pre-trained Transformer (Генеративный предварительно обученный преобразователь).

Достижения Искусственного интеллекта впечатляют. Он успешно сдал адвокатский экзамен с 88%-ным результатом правильных ответов (дающим человеку право заниматься юридической практикой). ИИ успешно прошёл бизнес-тесты, необходимые для получения степени MBA (Master of Business Administration, то есть Магистра бизнес-администрирования) и без дополнительной подготовки сдал экзамен, по которому в США допускают к работе врачей.

Израильский стартап Spines разработал на основе Искусственного интеллекта издательскую платформу, которая в течение двух недель вместо шести месяцев превращает текст в книгу, охватывая полное редактирование, дизайн, производство и продвижение в маркетинговых каналах, включая печатные, электронные и аудиокниги при снижении затрат в среднем на 30 %.

ИИ ускоряет научные исследования: в 2022 г. с помощью Искусственного интеллекта были найдены новые алгоритмы матричного умножения и управления термоядерным синтезом.

Анонсирован выпуск китайской компанией TCL полнометражного художественного фильма в жанре романтической комедии "Следующая остановка - Париж", причём ИИ полностью создал сценарий и поставку кинокартины.

Однажды я узнал, что один из ведущих инженеров Google Блейк Лемуан (Blake Lemoine) полагает, что ИИ не только разумен, но и способен осознавать и чувствовать. Честно говоря, я удивился, но задался вопросом, не могут ли диалоги с Искусственным интеллектом приоткрыть завесу на область его отношения к близкому человеку миру чувств, в частности, к чувству юмора (ну, не начинать же с любви или ненависти).

Накануне первоапрельского Дня смеха я провёл небольшое исследование об отношении Искусственного интеллекта к юмору (см. здесь) и пришёл к довольно неутешительному для ИИ выводу. В конце концов, я даже усомнился в правомерности человека вторгаться в эту область такого виртуального объекта, как Искусственный интеллект

* * *

Тогда в следующем своём общении с Искусственным интеллектом я попробовал поставить что-то вроде “чистого эксперимента” с минимумом представленной мной ему информации. Я предложил ИИ проанализировать, продолжить и развить мысль высказывания “Я встретил Вас – и всё... ”. Это фрагмент первой строки известного стихотворения Федора Тютчева, ставшего знаменитым романсом. В оборванной строке стихотворения открывается второй план, некий скрытый подтекст, повод для многовариантного продолжения, который легко угадывается человеком, наделённым чувством юмора.

Привожу сгенерированный ChatGPT ответ.

ChatGPT:

Я встретил Вас, и всё в мире вдруг стало иным. Как будто судьба решила сыграть свою таинственную карту, в которой каждый ход был заранее предопределен. Ваши глаза — они были как две звезды, освещающие мой путь сквозь ночную тьму. Голос ваш был как мелодия, которая звучала в моей душе, наполняя её теплом и радостью.

 В тот момент я почувствовал, что мир стал настоящим местом для жизни, а не просто сценой, где мы исполняем свои роли. В вашем присутствии каждый момент становился ценным, словно бриллиант, сверкающий на ладони.

Сквозь наши беседы, я узнал о вас больше, чем я мог себе представить. Ваша страсть к жизни, ваше стремление к истине и красоте вдохновляли меня каждый день. Вы стали не только моим другом, но и надежным опорным пунктом в этом мире переменчивом и неустойчивом.

Сейчас, когда вспоминаю о том мгновении нашей встречи, я понимаю, что оно изменило мое существование. Ведь встреча с вами стала тем ключевым событием, которое раскрыло передо мной новые горизонты, наполнив мою жизнь смыслом и радостью. И я благодарен за каждый момент, проведенный в вашем обществе, и за все чудесные переживания, которые мы разделили вместе.

* * *

На основании этого комментария ИИ в ChatGPT я пришёл к заключению, что Искусственный интеллект принял предложенную ему строку за чистую монету и не сумел распознать скрытый юмор. ИИ удачно находит в моих текстах ключевые слова и выражения, на которые и нанизывает свои дальнейшие рассуждения, почерпнутые из его бездонной памяти.

* * *

Тогда я решил ограничить Искусственный интеллект, задав очень узкий и конкретный вопрос. Я показал ему полностью первую строку стихотворения Федора Тютчева (1803 – 1873) “Я встретил вас – и все былое…”, и спросил, кто авторы текста и музыки этого романса.

Для лучшего понимания дальнейшего повествования приведу текст и сведения об этом стихотворении, написанном поэтом в возрасте 67 лет после встречи с женщиной, которую поэт любил когда-то в молодости. Он в 18-летнем возрасте, познакомился  в Мюнхене с побочной дочерью прусского короля Фридриха Вильгельма III Амалией Лерхенфельд (фон Крюденер в последующем замужестве). Воспоминание об этой любви и вылилось в строки известного стихотворения.

Фёдор Тютчев (1860-е) и Амалия Лерхенфельд (1820-е) (spb.aif.ru)

Этот шедевр любовной лирики так и просится на музыку. Её писали композиторы Сергей Донауров, Александр Спиро и Юрий. Шапорин. Но автором музыки знаменитого романса стал композитор Леонид Малашкин (1881). А ввёл романс в широкую исполнительскую практику выдающийся певец Иван Козловский. Запомним эту информацию.

В ответ на первую строку стихотворения “ Я встретил вас — и все былое…“ я не ожидал никаких сюрпризов. Но тут ChatGPT мне его преподнёс. Он сгенерировал свой ответ, который постепенно перешёл в наш диалог, все моменты которого привожу ниже, сохранив ответы ChatGPT в неприкосновенности.

ChatGPT:

Этот текст является началом романса "Я встретил вас – и всё былое" из оперы "Сказка о царе Салтане" композитора Николая Римского-Корсакова. Текст написан поэтом Александром Пушкиным.

Я:

Этого не может быть! Вы ошиблись или написали наугад?

ChatGPT:

Приношу извинения за путаницу. Да, вы правы, я допустил ошибку. Текст "Я встретил вас, и все былое…" не является частью оперы "Сказка о царе Салтане" Николая Римского-Корсакова. Это известный романс, авторство текста и музыки которого принадлежит композитору Михаилу Глинке. Таким образом, это произведение из оперы "Руслан и Людмила". Еще раз приношу извинения за путаницу.

Я:

Вы уверены в своём ответе?

ChatGPT:

Вы правы, я ошибся. "Я встретил вас, и все былое…" - это начало романса из оперы "Евгений Онегин", композитор Пётр Ильич Чайковский. Автором текста этого романса является поэт Александр Сергеевич Пушкин. Приношу извинения за путаницу и неверную информацию.

Я:

У меня сложилось впечатление, что Вы просто пытаетесь угадывать! Попробуйте отыскать в Интернете или других своих источниках ответы на вопрос, кто же в действительности авторы текста и музыки этого романса.

ChatGPT:

Извините за недоразумение. Позвольте мне исправить эту ситуацию.

Романс "Я встретил вас, и все былое…" действительно является частью оперы "Сказка о царе Салтане" Николая Римского-Корсакова. Автор текста этого романса - поэт Александр Пушкин. Таким образом, авторами текста и музыки этого романса являются Александр Пушкин и Николай Римский-Корсаков соответственно.

Если у вас есть какие-либо другие вопросы, не стесняйтесь задавать!

Я:

Вы ошиблись в очередной раз! Откровенно говоря, я разочарован.

ChatGPT:

Понимаю ваше разочарование, и я приношу извинения за недопонимание и неверную информацию. Позвольте мне исправиться.

Романс "Я встретил вас, и все былое…" действительно не из оперы "Сказка о царе Салтане". Он является частью оперы "Руслан и Людмила" композитора Михаила Глинки. Текст этого романса написал поэт Александр Пушкин, как вы правильно отметили (? – А.Б.)..

Если у вас еще остались вопросы или нужна дополнительная информация, я готов помочь.

Я:

Я не писал Вам, что “Текст этого романса написал поэт Александр Пушкин”. Я как раз писал, что текст написан вовсе не Александром Пушкиным.

ChatGPT:

Понял вас. Позвольте мне корректно ответить на ваш вопрос.

Романс "Я встретил вас, и все былое…" из оперы "Руслан и Людмила" композитора Михаила Глинки. Текст этого романса написан поэтом Александром Пушкиным. Таким образом, авторами текста и музыки этого романса являются Александр Пушкин и Михаил Глинка соответственно.

Искренне извиняюсь за путаницу и неверную информацию в предыдущих ответах. Если у вас есть еще какие-либо вопросы или нужна дополнительная информация, пожалуйста, сообщите мне.

* * *

Задав Искусственному интеллекту такой простой вопрос, ответы на который можно отыскать в справочной литературе и в Интернете, я был обескуражен тем, как ИИ с упорством, достойным лучшего применения, продолжал выдавать не гора контент, не имеющий ничего общего с правдивым. Я никак не ожидал перехода нашего общения в длинный безрезультатный диалог. Воспринимаю его как провал для ИИ в ChatGPT.

Однако отрицательный результат – это тоже  результат. Он может стать иллюстрацией того, как Искусственный интеллект способен вводить людей в заблуждение, и служить предостережением, как легкомысленно полагаться только на ИИ при принятии ответственных решений.

В беседах с Искусственным интеллектом  в ChatGPT на общие темы у меня сложилось впечатление общения с вполне погружённым в тему ”эрзац-разумом” (хотя и лишённым явного чувства юмора). Однако ИИ очевидно пасует в ситуации, требующей прямых ответов на вопросы, сопряжённые с поиском конкретной информации, по крайней мере, в некоторых областях знаний.  

Этот диалог наводит на мысль, что кто-то может целенаправленно использовать Искусственный интеллект с целью обмана и манипулирования.

Так что необходимо учитывать упомянутые выше предостережения Илона Маска и других разработчиков ИИ о соблюдении правил безопасности, которые ещё ждут своей разработки. Это должно быть нечто, аналогичное трём законам роботехники, впервые сформулированным Айзеком Азимовым в рассказе “Хоровод” ещё в далёком 1942 году:

– не причинять вред человеку или своим бездействием допустить, чтобы человеку был причинён вред;

– повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат первому закону;

– заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.

                                                                                      * * *