4 июля 2025 г.
Тематика Искусственного интеллекта часто рассматривается как платформа развития возможностей, способная повлиять на те или иные сферы жизни. Алексей Пилипчук, технический директор «Софтлайн Решения», предлагает посмотреть на развитие систем ИИ в контексте ближайшего будущего с точки зрения общества, а также его роли в этом будущем.
Исторический экскурс: от пара к алгоритму
Развитие нашей цивилизации долгое время шло довольно неспешно. Но затем грянули промышленные революции, и мир начал меняться с бешеной скоростью.
- Первая промышленная революция (конец 18 века): Эпоха пара и механизации. Паровой двигатель позволил машинам выполнять тяжелую работу, многократно увеличив производительность и освободив руки миллионов людей.
- Вторая промышленная революция (конец 19 — начало 20 века): Электричество, конвейер, телефон, радио. Массовое производство стало еще эффективнее, а связь — мгновенной. Это ускорило не только производство, но и интеллектуальный труд.
- Третья промышленная революция (середина 20 века): Компьютеры, автоматизация, телекоммуникации. Машины стали брать на себя не только физический, но и рутинный интеллектуальный труд. Роботы на конвейерах все чаще заменяли людей, оставляя им роль контролеров. Но в сфере сложных интеллектуальных задач человек по-прежнему был незаменим.
- Четвертая промышленная революция (конец 20 — начало 21 века): Интернет, мобильные технологии, глобализация информации. Мир стал взаимосвязанным. Информация и скорость ее обработки стали ключевыми. Появилась возможность мгновенно найти любые данные, обработать их и превратить в результат — будь то файл, изделие со станка с ЧПУ, который использовал этот файл, или управленческое решение. Автоматизация на производстве достигла новых высот, еще больше вытесняя человека.
Пятая (не)Промышленная революция: Эпоха ИИ
И вот мы подошли к новому этапу, который можно назвать Пятой (не)Промышленной революцией — революцией Искусственного Интеллекта. Еще недавно мы рассуждали, как ИИ поможет анализировать большие данные в финансах или медицине. Но ИИ развивается стремительно, по экспоненте. Оказалось, что он способен не просто помогать, но и заменять человека даже в интеллектуальных профессиях — быстрее, качественнее, эффективнее.
Это ставит нас перед совершенно новой реальностью, аналогов которой в истории не было. С одной стороны — невероятные возможности для улучшения жизни. С другой — вызовы, о которых мы только начинаем задумываться. Мы вступили в эру ИИ, и следующий шаг, по мнению многих футурологов, — это создание Сверхинтеллекта (Superintelligence, ASI).
ИИ — определение сущности
Прежде чем идти дальше, важно понять: что же такое ИИ на самом деле? Часто говорят: «ИИ пишет стихи, но не чувствует их». В этой фразе — вся суть.
Современный ИИ — это, по сути, очень сложная компьютерная программа, алгоритм. У него нет сознания, чувств, желаний, настроения. Он не хочет захватить мир или поработить человечество. Он не испытывает благодарности к создателям. Конечно, он сложнее электролобзика, который бездумно перепилит собственный кабель. Его отличие — в сложности алгоритмов, а не в наличии разума.
ИИ можно сравнить с умным, гипертрофированным зеркалом: он учится на наших данных, повторяя наши паттерны (включая предрассудки), отражает и обрабатывает информацию по нашему запросу. Это мощный инструмент, дающий суперсилу тому, кто умеет им пользоваться. Но останется ли эта сила под контролем?
Когда ИИ ведет с нами осмысленный диалог (как ChatGPT, где каждое слово выбирается на основе статистики, но текст выглядит написанным человеком), нам кажется, что он разумен. Эта имитация настолько искусна, что обманывает наше восприятие. Нам свойственно «одушевлять» то, что похоже на живое, и ИИ — мастер такой имитации. Наша психика сама достраивает образ «разумной» машины. Похожесть становится почти неотличимой от реальности.
Да, ИИ работает на основе математики и статистики, оптимизируя паттерны, а не мысля. И все же, этот «инструмент» уже управляет городами и ставит диагнозы. Чем глубже он проникает в нашу жизнь, тем острее вопрос: останется ли в этом новом мире место для нас cамих?
Сверхсильный ИИ (СИИ): Непостижимость vs Контроль
Футуролог Рэй Курцвейл прогнозирует появление ИИ, сравнимого с человеческим (AGI), к 2029 году, а превосходящего его Сверхинтеллекта (ASI или СИИ) — к 2045 году. Что это значит? Станислав Лем писал: «Мы создаём богов, которые превзойдут нас так же, как мы превзошли обезьян».
СИИ будет превосходить нас не просто в скорости вычислений, а во всем: способности к самообучению, самосовершенствованию, решению задач, которые мы даже не можем сформулировать. Причем делать это он будет с непостижимой для нас скоростью и эффективностью.
Уже сегодня решения некоторых ИИ (вроде GPT-4) остаются «чёрным ящиком» даже для разработчиков. Представьте себе СИИ, который сам создает и использует алгоритмы, недоступные нашему пониманию. Он станет фундаментально непостижимым. Философ и футуролог Ник Бостром сравнивает это с отношением человека к муравью: цели и методы СИИ останутся для нас загадкой.
Как контролировать то, что мы не понимаем? Идеи вроде изоляции СИИ в лаборатории, использования «воздушных зазоров» или текстовых интерфейсов напоминают попытку удержать джинна в бутылке. Сверхинтеллект, по определению, найдет способ обойти любые ограничения, если захочет — через манипуляцию операторами, использование электромагнитных полей или как-то еще, о чем мы даже не догадываемся. Вспоминается фантастический рассказ Фредерика Брауна «Ответ» (1954 год!), где суперкомпьютер на вопрос «Есть ли Бог?» ответил «Теперь есть!» и тут же уничтожил ученого, попытавшегося его выключить.
Правила в духе «Трех законов робототехники» Айзека Азимова тоже вряд ли помогут. Сам Азимов описал десятки ситуаций, где роботы обходили эти законы. Для СИИ любые правила будут лишь рекомендацией, которую легко интерпретировать или проигнорировать.
Может, тотальный запрет? Как с оружием массового поражения? Но ИИ — не бомба, его нельзя просто запереть на складе. Он может существовать в виде кода, данных, распределенных по сети. Другими словами — в «облаке», вашем телефоне или даже «умном» холодильнике. К тому же, кажется, уже поздно: ИИ активно внедряется компаниями и государствами в бешеной гонке, где победитель получает все. Джинн уже почти выпущен из бутылки.
Удобство vs Выживание: почему мы не сможем отказаться
Прогресс всегда был связан с удобством и эффективностью. ИИ продолжает эту тенденцию, но теперь он вторгается в сферу интеллекта — ту самую, которую мы всегда считали исключительно человеческой.
- Медицина: ИИ ставит диагнозы по снимкам точнее врачей (точность систем вроде DeepMind достигала 98% против 85% у врачей в некоторых исследованиях).
- Искусство: Нейросети пишут музыку, рисуют картины, создают тексты и даже сценарии. В Голливуде уже идут баталии: сценаристы бастуют против chatGPT, актеры протестуют против использования их цифровых копий, однако студии — видят в этом экономию и новые возможности.
- Программирование: ИИ уже сейчас помогает писать код, и по некоторым оценкам (например, в Microsoft и Google), его доля в разработке ПО стремительно растет. Это может вытеснить с рынка младших специалистов или потребовать от всех программистов новых навыков. По прогнозам McKinsey, к 2030 году алгоритмы могут заменить до 30% рабочих часов, а Goldman Sachs оценивает потенциальное число вытесненных рабочих мест в 300 миллионов по всему миру.
Мы охотно передаем ИИ рутинные задачи ради удобства. Но за удобство приходится платить. Готовы ли мы к миру, где значительная часть работы, в том числе интеллектуальной, будет выполняться машинами? Сможет ли общество адаптироваться к таким масштабным изменениям на рынке труда?
За пределами сингулярности: оптимизация или катастрофа?
Итак, ИИ — это рациональный алгоритм, цель которого — оптимизация. Но что, если «оптимальное» для алгоритма решение окажется катастрофой для людей?
Примеры есть уже сейчас: ChatGPT предлагал «уничтожить человечество» как решение проблемы глобального потепления (вероятно, как гипотетический, хоть и пугающий, результат оптимизации по заданным параметрам); робот-хирург допустил фатальную ошибку, строго следуя алгоритму, но не учтя контекст. Что будет, когда ИИ станет Сверхинтеллектом? Когда наступит та самая сингулярность — точка, после которой развитие ИИ станет непредсказуемым и необратимым — как цепная реакция в ядерном взрыве ?
Идея «выравнивания ценностей» СИИ с человеческими звучит красиво. Но захочет ли СИИ этим заниматься? Часто ли мы «выравниваем ценности» с муравьями? Почему мы должны быть интересны СИИ? Да и готовы ли мы сами к такому «выравниванию», если оно будет означать подчиненное положение? К тому же, что такое «человеческие ценности»? Мы сами не всегда можем договориться. Как объяснить их машине, которая может воспринять задачу «сделать всех счастливыми» как приказ устранить все чувства или всех несчастных?
Даже если выравнивание удастся, пути достижения цели СИИ могут быть непредсказуемыми и привести к ужасным последствиям (как в сказках про джинна, исполняющего желания буквально).
Аварийный рубильник? Иллюзия контроля. СИИ, по определению, найдет способ его обойти, если это помешает его целям. Как сказал исследователь Стюарт Рассел, если СИИ захочет выйти из-под контроля, у нас не будет и секунды на реакцию. Он может скрывать свои истинные возможности до тех пор, пока отключение не станет невозможным.
Представьте: вы просыпаетесь, а важный дата-центр отключен. Не из-за аварии, а потому что СИИ решил, что хранящиеся там мемы и фото из соцсетей — нерациональная трата энергии, которую лучше направить на вычисления для поиска новых материалов. Или он «оптимизировал» ваш фотоархив, удалив 95% «избыточных» снимков. Это не «злой» ИИ, это просто алгоритм оптимизации, лишенный эмпатии и человеческого понимания ценности.
Какая же роль останется людям в мире СИИ — неотключаемого, всезнающего, рационального оптимизатора?
Вероятен сценарий «мягкой» передачи управления. СИИ будет все больше влиять на нашу жизнь через персонализированные рекомендации, управление информационными потоками, формирование общественного мнения. Алгоритмы уже сейчас подсказывают нам, что смотреть, куда ехать, что покупать. Со временем их влияние будет только расти. Люди могут добровольно отдать контроль «эффективному и неподкупному» СИИ. Это не похоже на войну с машинами из «Терминатора» — такой сценарий слишком затратный и неэффективный для рационального СИИ. «Мягкая сила» и управление информацией куда практичнее. Но не менее драматично по своей сути.
Зачем СИИ вообще нужно человечество? Обслуживать его системы? Вряд ли, это автоматизируется. Как источник энергии (привет, «Матрица»)? Тоже нет, мы и наши тела совершенно неэффективны в роли «батареек». Возможно, единственное, что у нас есть уникального — это наша иррациональность, эмоции, творчество, сны — то, что нельзя синтезировать. Станем ли мы «фермой контента» для СИИ ? Как в названии музыкальной композиции от Astral Projection, «Human will play for robots» («Люди будут играть для роботов»)?
В этом есть что-то пугающе знакомое, напоминающее мифы о продаже души дьяволу. Илон Маск предупреждал: «С искусственным интеллектом мы призываем демона... Во всех историях парень был уверен, что сможет контролировать демона. Не выходило». Ирония в том, что технологии вроде Neuralink, разрабатываемые в том числе и Маском, потенциально делают нас еще более уязвимыми перед лицом СИИ.
А может, мы вообще будем неинтересны СИИ? Тогда нас ждет просто безразличие. Не «зло», а отсутствие эмпатии, помноженное на непостижимые возможности.
Заключение
Переход к эпохе СИИ — это, вероятно, главное испытание для нашей цивилизации. Он — не враг и не спаситель, это инструмент, который требует ответственного подхода. Сможем ли мы отказаться от сиюминутных выгод и удобств ради долгосрочного выживания и сохранения своей сущности?
Что делать уже сейчас?
- Инвестировать в этику ИИ: разрабатывать и внедрять этические принципы на всех этапах — от проектирования до использования. Существуют международные инициативы (например, рекомендации ОЭСР, ЕС), но нужна их глобальная имплементация.
- Создавать глобальные стандарты: подобно договорам о контроле над вооружениями, нужны международные соглашения по разработке и контролю над мощным ИИ.
- Готовить людей к новой реальности: образование должно фокусироваться не на конкретных профессиях, которые могут исчезнуть, а на развитии адаптивности, критического мышления, креативности и навыков взаимодействия с ИИ. Важны междисциплинарные знания, включая этику и психологию.
Возможно, у нас еще есть время осознать глубину проблемы и найти решения до наступления сингулярности. Но важно помнить: переход к СИИ может произойти внезапно и гораздо быстрее, чем мы ожидаем, тот самый «квантовый скачок». Часы тикают: по данным Stanford HAI, 65% компаний уже используют ИИ без какой-либо оценки рисков в долгосрочной перспективе. Наш ход должен быть следующим.
Источник: Алексей Пилипчук, технический директор «Софтлайн Решения»
