- Итак, нам предстоит поговорить об отрицательных свойствах искусственного интеллекта и опасностях, связанных с ним.

- Начнём с простого примера: не так давно в Соединённых Штатах произошли очередные теракты. Выяснилось, что один из террористов собирал бомбу под руководством чата GPT. При этом он был профессиональным военным и понимал, что не сможет достать некоторых компонентов, необходимых для изготовления бомбы. Но после беседы с чатом GPT, они собрали на двоих с искусственным интеллектом взрывное устройство из подручных средств.

- А что может сделать человек штатский?

- Любой школьник может запросом из чата GPT достать сведения, как сделать пластиковый пистолет, заказать себе небольшой 3D принтер, напечатать детали под руководством того же самого чата GPT и собрать пистолет. Причём это будет пистолет, который никто не отследит, который ты можешь, например, пронести в самолет через любую рамку металлодетектора.

- Но в пистолете должны же быть металлические детали, боёк, например.

- Не обязательно. В качестве того же бойка в этом пистолете можно использовать, например, штырёк от пряжки брючного ремня, я не знаю, как он, на самом деле, называется, который входит в ременную дырку. Он прекрасно может использоваться как боёк в пистолете. Понимаете? А пронести патроны можно в виде ожерелья на шее. Пластиковые детали ничем не прозваниваются и не просвечиваются. Их можно в карманах нести.

И чат GPT поможет тебе это сделать. Собрать бомбу из подручных компонентов. Сделать оружие, сварить какие-то наркотики.

- Приготовить взрывчатку.

- И её тоже. И ничего вы с этим не сделаете. И это тоже минус.

Хотя ИИ вполне может оказаться ни при чём: нету чата GPT, пожалуйста, есть браузер Tor, есть Darknet, там это все выложено в виде инструкций. Поэтому чат GPT в принципе ни при чем. Причем то, что у нас это все есть, и контролировать это невозможно. И кто бы сколько ни говорил об усилении контроля за интернетом, вы не сможете его контролировать.

Вы уже создали то, что контролировать не сможет никто и никогда. Причём, с одной стороны, это прекрасно, потому что идея создания общей мировой сети информации, к которой каждый сможет получить доступ, замечательна. А, с другой стороны, люди сами поворачивают это не в ту сторону, Как всегда, идея прекрасна, реализация не очень.

А дальше у нас появляются всякие руководства анархистов, маньяков и прочее. Дальше у нас появляются всякие дипфейки, когда ты можешь сделать видео с любым человеком и любым голосом, и он потом уже не докажет, что этого не было. Дальше у нас появляется куча непроверенной информации, которую кто-то где-то вбрасывает, и целые фабрики троллей.

- Но искусственный интеллект в этом не виноват.

- Да, потому что это – проблема не технологий, это – проблема их использования. Всё упирается в человека.

И, конечно, технологии с таким двойным назначением всегда будут использоваться, в том числе и по второму назначению, а не только по прямому, как задумывал автор. Но с этой проблемой мы сделать не можем ничего. И ИИ – это то же самое. Сам ИИ никогда не научится ничему такому. Я бы, конечно, не подключал ИИ ни к каким военным структурам, просто потому что это как минимум еще одна дырка в безопасности на 200%. Потому что проверить, какой промп туда загнали, в какой момент у ИИ поедет крыша, невозможно.

Не стоит подключать ИИ и ко всяким жизненно важным вещам, типа ГЭС, АЭС и прочее. Но я бы, в принципе, туда и интернет бы не проводил, да и вообще старался бы это минимально компьютеризировать. Какая тебе разница, почему ядерная ракета взлетела? Потому что у тебя где-то что-то замкнуло в компьютере, и программа дала старт сама по себе? Или потому что у тебя кто-то не тот промпт в ИИ зашил, у ИИ крыша и съехала? Да никакой. То есть, безусловно, все какие-то опасные вещи должны контролироваться человеком. Безусловно, не может быть машины на автопилоте, в которой автопилот нельзя принудительно выключить, вынув где-то разъем, чтобы ток остановился. Отключить мозги.

Должна быть функция отключения электроники. Всегда. В автомобиле, в самолете, в поезде, на ГЭС, на АЭС, на военной базе. Всегда должна быть функция отключения электроники и перевода в ручной режим.

Хотя этим тоже можно воспользоваться, отключив электронику, переведя в ручной режим, если это делает плохой человек. Ну, тут вот это все, понимаете: самый страшный зверь на планете Земля – это человек. С этим ты ничего не сделаешь. И говорить, что вот ИИтам кого-то лишит работы – нет, это не так. Вот ИИ там сам сойдет с ума, сам уничтожит человечество – нет, такого быть не может. ИИ – это модель, обучаемая на данных, которые мы ему даем. Только человек может научить ИИ тому, что нужно уничтожить человечество. Только человек может сказать искусственному интеллекту, что вот это хорошо и правильно.

Господи, а что бы мы делали без мобильных, машин, роботов и так далее в свое время? Хотя и про машины говорили, и про конвейеры говорили, что это ужасно. Напомню, как ломали конвейеры. Ткацкие станки ломали и так далее. Деревянными башмаками. Но это же не изменило нашу жизнь. Вот так, как люди думали. И это не изменит нашу жизнь. И не будут всех выгонять с работы, чтобы остались одни роботы и искусственный интеллект. Это невозможно. Это, в принципе, нереально.

Мы говорим и об экономической нецелесообразности этого, потому что мы понимаем, что во многих вещах человеческий труд просто будет дешевле. Мы говорим и о том, что в тех местах, где человеческий труд дороже ИИ, там думать надо. И искусственный интеллект не готов к такому. Искусственный интеллект не может моментально принимать экстраординарные решения, которые в него не заложены, выдумывать что-то новое.

- Что конкретно имеется в виду?

- Он может дописать симфонию Баха, переслушав всего Баха и примерно прикинув, как, нарвав куски из разных других произведений Баха, состряпать из них что-то. Но что-то принципиально новое искусственный интеллект не может создать. Потому что под ним по факту лежит база данных, которая содержит знания, накопленные человечеством за всю его историю. На их основе он может строить какие-то теории, что-то другое делать, что-то рисовать, музыку даже сочинять. Но это будет не новое. Никакой новый музыкальный стиль или новый художественный стиль искусственный интеллект не изобретет.

Может, это и хорошо. Потому что если мы говорим о том, что искусственный интеллект начинает что-то изобретать, то это уже необратимо. Да, это уже мышление, и потом он, возможно, придёт в итоге к мысли стереть человечество с лица земли. Поэтому в том случае, когда искусственный интеллект изобретет новый стиль музыки, я думаю, уже можно будет вести серьёзную дискуссию о том, что он опасен для человечества. А как помощь в, скажем так, снятии рутинной работы с высококвалифицированных сотрудников? Да, пусть работает, почему нет.

- При этом сотрудники с низкой профессиональной квалификацией лишатся работы.

- Да, какие-то сотрудники с низкой квалификацией могут лишиться своих рабочих мест. Но это те люди, которых в любом случае увольняют во время кризиса в одну из первых очередей, стараясь избавиться от тех, чьи обязанности можно переложить на более квалифицированных работников.

-Ну, здесь, как говорится, палка о двух концах.

- Да, с одной стороны, если ты уволишь более высококвалифицированных работников, то можете на большее количество сократишь фонд заработной платы. Но, с другой стороны, обязанности низкоквалифицированного работника его высококвалифицированный коллега может выполнять, а наоборот не получается. Поэтому низкоквалифицированных сотрудников, таких, которых легко заменить и чьи обязанности легко отдать другим или разделить между членами коллектива сокращают в первую очередь, когда идет вынужденное сокращение. А различные кризисы сейчас происходят очень часто.

- Да, совсем недавно прошла новость об увольнении полутора тысяч сотрудников Газпрома.

- Да, и это для мировой экономики не предел: по две, по три тысячи человек увольняют. Без всякого искусственного интеллекта, господа.

Почему большие компании с такой легкостью увольняют две тысячи человек? Потому, что, когда у компании много денег, она набирает кучу народа. Это дает им ряд вещей. Во-первых, естественная реклама: новые сотрудники рассказывает всем о том, какая классная компания. Ведь, когда не сильно квалифицированные люди попадают в крупную компанию и получают все положенные там плюшки, они очень довольны и очень хвалят компанию. Это создает им определённый имидж: вот мы такие большие, мы такие классные.

Во-вторых, в кризисный период это дает им возможность кого-то сократить без серьёзных последствий для дела. Многие люди не понимают, что на самом деле, когда ты приходишь в крупную компанию и видишь: люди сидят, ничего не делают и деньги получают, нельзя впадать в эйфорию. Ребята, слава Богу, что они сидят, ничего не делают и деньги получают. А ты сиди и делай, потому что ты видишь тех людей, которые в голодный год попросят на выход, как сейчас это Газпром делает. Для того они и существуют на самом деле. И это проблема не каких-то отдельных людей, это проблема того, что такие принципы ведения бизнеса у нас в мире. И не будем говорить сейчас про Газпром, про какие-то конкретные страны, мы говорим про весь мир в принципе.

- Ну, и какое резюме можно в итоге сделать?

- В искусственном интеллекте нет ничего плохого и нет ничего сверххорошего. Искусственный интеллект – это просто еще один инструмент, позволяющий облегчить какие-то рутинные процессы в разных отраслях, какие-то процессы, возможно, даже удешевить. Те же скоринговые вещи и прочее. Например, ты сможешь держать двух андеррайтеров, а не пять, потому что значительная часть анализа возможных рисков окажется на рассмотрении искусственного интеллекта. И он там будет пропускать или не пропускать документы дальше.

Через 10-15 лет искусственный интеллект войдет в нашу жизнь так же, как мобильный телефон. 15-20 лет назад кто мог представить, что я смогу сегодня работать с мобильного телефона, подключаясь удаленно, создавая какие-то страницы в конфлюэнсе, двигая таски в джире и прочее. В седьмом, в шестом году мобильники были кнопочные. 20 лет назад никаких крутых смартфонов сегодняшнего уровня просто не было. А сейчас без такого телефона жизнь очень сложно представить. У тебя куча приложений, ты все время чем-то пользуешься, ты все время там и так, и сяк, и пятое, и десятое.

20 лет назад «Аська» была пределом фантазии, сейчас, извините, я могу кружочки видео записывать и прочее. Это нормальное развитие. Этого не стоит бояться. Но к этому не стоит относиться как к чему-то такому - «ах». Это не «ах, что-то супер». Это обычный инструмент, не лучше молотка или микроскопа. В умелых руках этот инструмент может многое, в неумелых руках, увы, не меньше, правда с другим результатом. Это надо понимать, с этим надо жить и работать.

Беседовал Владимир Володин.