- Итак, мы остановились на том, что внедрение искусственного интеллекта далеко не всегда необходимо и, более того, в ряде случаев экономически не оправдано.
- Разумеется. Это как с роботизацией: да, роботы - это, конечно, хорошо, но они никогда не заменят людей полностью, потому что во многих случаях человеческий труд просто дешевле. Простой пример: роботы строят дома. Чтобы построить дом, ты должен всё рассчитать, выставить определенным образом рельсы, по которым эти роботы будут ездить, Инженер должен написать определенным образом программу, с помощью которой эти роботы будут что-то делать и так далее. Но для строительства большей части зданий проще набрать 50 гастарбайтеров, чем внедрять роботов.
- Но сегодня в России дефицит рабочих рук. И поток мигрантов стал пересыхать.
- И что? Есть и ещё целый ряд преимуществ роботов: они могут работать 24 на 7, не пьют и не смотрят на женщин. И тем не менее даже при этом в большей части случаев они обходятся дороже людей. Для строительства частного дома вы никогда не будете нанимать себе компанию, которая строит дома применяя роботов: это сделает строительство вашего дома в сравнении с тем, что вы наймете людей, в 5, если не в 10 раз дороже.
И с искусственным интеллектом то же самое. Одно дело, когда ты большая крупная корпорация, которая может это себе позволить: у тебя уже давно там все эти даталейки, куча стоек купленных (та же стойка стоит, как крыло от Боинга). А тебе, чтобы сделать нормальный даталейк, нужно приличное хранилище, чтобы поставить на это свое ИИ, которое будет с этими данными что-то делать.
А, если у вас фирма на 3, 5 человек? Вы не будете это делать никогда. И так далее. То есть мы должны понимать, что, конечно, ИИ – это не замена человека. ИИ – это такой вспомогательный инструмент. Конечно, кто-то вылетит на периферию жизни, если не научится им пользоваться. То есть приоритет в жизни, в работе и так далее будут иметь люди, которые этим инструментом пользоваться умеют.
Но это, как когда, извините, вы берете себе человека на фабрику, которая собирает мебель. У вас есть претендент, который умеет пользоваться молотком, и претендент, который в жизни молоток в руки не брал. Понятно, что вы возьмёте человека, который умеет пользоваться молотком, потому что ему по должностным обязанностям надо будет гвозди забивать. И никакой искусственный интеллект тут ни при чём.
- А что с упоминавшимся заявлением руководителя Майкрософта?
- Я считаю, что господин Сатья Наделла слишком оптимистичен в своих заявлениях о том, что очень скоро агенты захватят большую часть SаaS, большую часть АйТи и вообще большую часть мира.
- А 10-15 лет? И почему именно SаaS?
- САС-системы – это системы управления на предприятиях. Это ERP-системы, CRM-системы. Это крупные такие вещи, которые играют очень большую роль. Поэтому речь идёт о них.
- То есть, по его мнению, ИИ захватит все ключевые посты? А Вы как считаете?
- Будем честными: мы понимаем, что через 10-15 лет наша жизнь будет неотделима от искусственного интеллекта. Но это было понятно давно. Это было понятно, извините, еще когда мы смогли сказать в телефон «Окей, Google», и он в ответ нам объяснял, что нам надо. И это просто следующий шаг до цифровизации нашего общества. И это нормально, это так и должно быть. Мы понимаем, что этому надо учиться. Если ты хочешь, чтобы твоя жизнь дальше развивалась, ты мог находить более высокооплачиваемую работу, мог меньше работать за те же деньги.
У меня есть приятель-разработчик, который активно пользуется искусственным интеллектом, если ему надо написать какой-то простейший код. То есть там какие-то несложные вещи он делегирует искусственному интеллекту и прекрасно этим пользуется.
Я какие-то вещи делегирую уже искусственному интеллекту и тоже этим пользуюсь, если у меня есть шаблон документации, я примерно понимаю, что мне туда надо засунуть. Там у меня уже есть что-то накиданное, я кидаю это в ИИ, пишу: вот по этому шаблону мне нужно сделать, и он мне просто отдает в word по шаблону обратно все. Я говорю: ок, спасибо. Мы все понимаем, что это какое-то упрощение, которым надо пользоваться. Это облегчит тебе жизнь, это даст тебе какое-то движение дальше и так далее.
Но при этом нам кричат, что всем стоит опасаться, что ИИ может захватить мир, компьютеры и так далее, и тому подобное. Безусловно, учитывая человеческую специфику, мы должны осознавать: чем больше мы внедряем агентов, сервисов и так далее, в критические места инфраструктуры человеческой жизни, тем больше мы делаем ее опасной. Но это не более опасно, чем просто управляемая компьютером жизнь, поскольку чем больше мы внедряем какое-то компьютерное управления в нашу жизнь, тем более опасным ее делаем. Да, для нас это где-то далеко, это, как в кино, когда удаленно вскрывают программное обеспечение автомобиля у человека, выключают ему тормоза, и он въезжает в столб. Но с другой стороны, с учетом автоматизации текущих автомобилей, это не так уж и нереально.
А теперь представьте себе, что кто-то вскрыл не автомобиль, а атомную электростанцию. Мы в принципе должны понимать, что компьютерная безопасность, которая сейчас существует в мире, недостаточна. Безусловно, недостаточна.
Мы все видим, как вскрывается все подряд: хакеры, кладут какие-то критичные для целых государств системы, добывают какие-то данные и так далее и тому подобное. Мы понимаем, что это очень классно смотреть в новостях: там арестовали группировку хакеров, которая годами вскрывала базы данных страховых компаний, банков и так далее. Супер. Одна проблема, они годами это делали. Сколько всего они там успели навертеть?
- Будем честными: интернет, как космос, осваивается, но таит много опасностей.
- Вот и представьте, что вы получаете доступ к каким-то очень серьезным вещам. Все эти рассказы про то, что они в отдельном контуре и туда невозможно проникнуть, не стоит слушать – всё возможно, прости господи. Я видел, как человек со своего телефона в Московской области поднимал, циски (Cisco («Циско» или «Циска») — это бренд ИТ-корпорации Cisco Systems из США, под которым во всём мире выпускаются сетевые маршрутизаторы, коммутаторы, беспроводные устройства, системы видеонаблюдения) на ГЭС где-то в Красноярском крае.
- Можете чуть подробнее развернуть свою мысль для человека, не обладающего техническими знаниями.
- Что такое интернет? Что такое вообще любая сеть? Не интернет, а, например, локальная сеть? У тебя N количество аппаратов соединено кабелями, по которым бегает ток. Есть ток, нет тока. На самом деле, это пакеты, которые имеют определенный набор уровней. Зашито, куда этот пакет должен прибежать, как он должен обработаться, что в этом пакете содержится и так далее. Канальный уровень, уровень приложения и то и пятое и десятое.
Так вот, Есть роутинг. Роутинг – это как раз направление этих пакетов, куда они должны пойти. То есть, грубо говоря, когда ты пишешь в Гугле какой-то адрес и нажимаешь Enter, у тебя отправляется запрос на сервер твоего провайдера, что ты хочешь попасть на такой-то адрес. Он должен запросить у DNS, какой айпишник у этого имени. Ты же не пишешь ему айпи, на который ты стучишься: какая сеть, какая подсеть и так далее. Он должен понять, где это все находится. Там стоит маршрутизатор который начинает направлять на разные DNS-сервера эти пакеты, в зависимости от того, к какому списку она подключена.
И вот система должна узнать, не знаешь ли ты какой это IP, она должна этот пакет правильно отправить туда, она должна получить ответ, тоже там пакет ответа, откуда-то оттуда, она должна понять, что пакет ответа – это твой пакет ответа, отправить его тебе, а не Васе в соседнюю квартиру. Это – самое простое объяснение. Пусть меня заклюют разные сетевики, но я не знаю, как еще проще объяснить человеку, который этого вообще никак не понимает, что это такое.
Я понимаю, что на самом деле все роутинговые вещи, все, что имеет хоть какой-то выход в интернет, а все имеет хоть какой-то выход в интернет, потому что, грубо говоря, за показателями этой Красноярской ГЭС должны следить какие-то дяди, которые находятся не на этой ГЭС. И мы понимаем, что для этого протянут отнюдь не прямой кабель, который пройдёт через всю страну, и его воткнут сервер этих людей. Это будет делаться через интернет.
- Разумеется, они ведь тоже пользуются общей мировой сетью.
- Да. Но это все идет в открытом доступе. Соответственно, если ты имеешь выход в интернет, то интернет имеет вход в тебя. И то же самое со всеми этими сервисами искусственного интеллекта. А кто знает что там за железо стоит? Как там обеспечивается сетевая безопасность?
При этом никто не знает, какой промт кому когда-нибудь придет в голову залить в какой-нибудь ИИ извне. Сейчас все кичатся тем, что очень много ИИ-агентов разных чат-ботов. Есть всякие HR-агенты. Когда тебе начинают в телеграме писать какое-нибудь типа HR, ты начинаешь с ним общаться, они даже иногда очень похожи на человека. В какой-то момент ты просто берешь, отправляешь ему пронт, и он его выполняет.
А теперь главное: если этот HR-агент стоит внутри какой-то компании а ты сумеешь правильно с ним правильно пообщаться, можно такой подрыв сети этой компании устроить. Ведь этот HR-агент, этот прекрасный чат-бот как-то общается с остальными сервисами, скорее всего, из-под собственной учетной записи, у которой есть набор хороших доступов. И никто же не думает о том, что кто-то может написать промп и влить в этого чат-бота, что этот чат-бот пойдет не с человеком общаться, а наоборот общаться с сервисами внутри, отдавать какие-то данные, что-то просматривать, делать какую-то активность и так далее.
Ну а дальше мы видим чудо: один безумец с нормальными знаниями чат-ботом какого-нибудь крупной компании, которой есть какие-нибудь хорошие доступы, начинает воротить такое, от чего потом будет сложно отмыться.
Когда люди говорят, что есть страшные опасности: система сама обучится, сама настроит ракеты и всех убьет, потому как решит, что человечество больше никому не нужно, то это – фантастика. А вот вопросы, связанные с тем, что поголовное использование ИИ, не прикрытое какой-либо системой безопасности, а в большинстве своем оно не прикрыто какой-либо безопасностью, - это очень опасная дырка, ну, и плюс к этому мы пока говорили о пользе ИИ, а стоит поговорить и о его вреде.
Беседовал Владимир Володин.