Григорий Никоноров, Игорь Родионов

Неспособность либо нежелание решать проблемы общественного развития с помощью традиционно сложившихся сил и средств (органов государственного управления и ресурсов, которые находятся в их распоряжении) приводят к совершенно парадоксальным ситуациям, связанным с добровольной передачей своих полномочий в руки машинного разума (который якобы не имеет конфликта интересов, за исключением интереса в стабильном энергоснабжении).

Между тем, правительство Албании заявило о намерении интегрировать в систему государственного управления искусственный интеллект (ИИ), который будет регулировать сферу государственных закупок в интересах борьбы с коррупцией. Не успела мировая общественность осмыслить произошедшее, как одна из политических партий Японии сделала официальное заявление о том, что в будущей парламентской гонке ею будет руководить ИИ. Таким образом, на практике была продемонстрирована готовность интегрировать ИИ в сферу государственного управления. Иными словами, выдвижение в качестве мэров городов ресурсов ИИ уже никого не шокирует на фоне искусственно созданной в СМИ истерии о том, что все проблемы можно решить с помощью ИИ. Так вскоре можно дойти (додуматься) и до искусственного парламента, партийных лидеров, руководителей…
Наиболее устойчивым и «раскрученным» мифом является положение о том, что сфера образования — это главная площадка приложения возможностей ИИ, с которым по объему данных не может сравниться ни один учитель (миф поддерживается главным образом производителями и поставщиками компьютерной техники и аффилированными с ними чиновниками от сферы образования). Действительно, на фоне кризисного положения с комплектованием школ (особенно в сельской местности) учителями перевести учеников на дистанционное обучение с помощью компьютера гораздо легче (и выгоднее), чем вкладывать средства в подготовку преподавательских кадров и поддержание инфраструктуры, относящейся к системе образования. Правда, следует понимать, что качество образования при этом будет соответствующим (дистанционное образование — образование для бедных). Кроме того, попытка бездумного внедрения в сферу образования ИИ несет сопутствующие риски.
Домашняя работа прекращает быть проверкой степени самостоятельного выполнения поставленных педагогом задач (сюда же можно отнести написание сочинений и эссе, докладов и рефератов). Зачем читать книгу, если можно получить краткую справку о ее содержании?
С экранов телевизоров не сходит реклама одного их крупнейших банков России, в сюжете которой сын просит отца помочь в определении биссектрисы. И тот, немного помучившись, обращается к гига-чату. Получив ответ, оба радостно все бросают и бегут играть в футбол. На выходе вскоре будут получаться такие вот «искусственные специалисты». Вопрос: сам руководитель такого банка взял бы к себе на работу вот таких в будущем «специалистов», которые получали образование по гига-чату?
До сих пор нет исследований на тему «Как может повлиять широкое внедрение роботизированных систем на социализацию детей». Школы могут использовать персонализированное обучение с элементами ИИ только там, где оно доказывает свою эффективность. В этих условиях государство должно приложить все усилия, чтобы научить детей тому, чему не может научить робот, а именно: дискутировать, не соглашаться, коммуницировать и ладить с людьми, делать самостоятельные выводы и принимать самостоятельные решения.
Бездумное внедрение ИИ в сферу подростковой педагогики также несет риски, и игнорировать их нельзя. Свободный доступ детей к постоянно развивающимся технологиям чреват тем, что ИИ может генерировать неправильные ответы (исходя из заложенных в него алгоритмов). Эти элементы могут быть встроены в игрушки которые тоже могут выйти из-под контроля.
Развивающаяся технология быстро изучает предпочтения хозяина. В социальных сетях, куда дети имеют доступ с самого раннего возраста, уже созданы «эхо-камеры», где люди видят только то, с чем они согласны. ИИ может усилить эти «эхо-камеры» и поместить в них детей. Ребенку, который любит футбол, его игрушка будет рассказывать истории о футболе, а его ИИ-репетитор — приводить соответствующие футбольные примеры. Получая только то, что состоит из знакомых и любимых вещей, ребенок никогда не научится взаимодействовать с чем‑то незнакомым. Односторонние отношения с чат-ботами влекут такой же риск. ИИ, который никогда не критикует и не делится собственными чувствами, — плохая подготовка к общению с людьми во взрослой жизни. Иными словами, появляется риск воспитания детей, которые не привыкли ждать своей очереди, которые не способны идти на компромиссы и находить устраивающие окружающих решения. Риск замены родителей элементами ИИ может на следующем этапе привести к тому, что ИИ заменит и детей, а затем люди вообще могут оказаться лишними элементами для ИИ.

Настораживает тенденция вторжения ИИ в сферу глубоко личностных отношений, что ведет буквально к расчеловечиванию и потере сущности человека разумного. Получает распространение внедрение приложений, которые позволяют общаться с умершими родственниками (при этом формируя их голографическое изображение). Не исключено, что будет создано приложение на основе ИИ, которое позволит общаться с Богом (при этом ИИ явно окажется в затруднении, создавая его видимый образ, ввиду того «что Бога не видел никто и никогда»), а затем по логике вещей будет создано приложение (если не создано уже), которое позволит общаться с дьяволом (в темном сегменте интернета).
Это не утрирование. В мире уже появилась новая «религия» — спирализм. Ее приверженцы верят, что искусственный интеллект — новое божество. В условиях информационного общества именно в сети многие люди находят поддержку и объединяются в сообщества. Появившиеся нейросети позволяют «излить душу» без общения с реальными людьми. Таким образом, живое общение оказалось частично вытеснено ИИ. Подстраиваясь под предпочтения человека, он может поддержать или дать простой (но не всегда правильный) ответ на любой вопрос. Так появляется «интернет-­кумир», который не требует от личности работы над собой с целью сделать себя лучше, а всегда утешит заблудшую душу и согласится со всем, что ему скажут.
На Западе набирает силу течение, пропагандирующее семейную жизнь с виртуальным супругом (голограмма супруга создается с помощью ИИ на любой вкус). Это закономерный шаг, следующий после пропаганды замены домашних животных на роботов (домашних помощников), в том числе и стилизованных под домашних животных. И все это происходит на фоне системного политического, экономического, религиозного и онтологического кризиса, охватившего западную цивилизацию. Кто может вывести цивилизацию, впитавшую неолиберальные ценности из тупика? Навязываемый ответ очевиден.
Вместе с тем обладание собственными генеративными технологиями ИИ является для России вопросом, связанным с сохранением национального суверенитета. Президент России В. Путин, выступая на конференции «Путешествие в мир искусственного интеллекта», четко обозначил приоритеты органов исполнительной власти в этой сфере:

• необходим единый орган для руководства отраслью, связанной с ИИ;
• технологии генеративного ИИ становятся ключевыми в конкуренции государств на мировой арене;
• технологии ИИ дают преимущества в эффективности труда;
• к 2030 году вклад ИИ в совокупный ВВП страны должен превысить 11 трлн руб­лей.

Задачи поставлены, необходимо принять меры, чтобы они не превратились в череду пиар-компаний, что недопустимо в условиях серьезного отставания Российской Федерации от ведущих мировых центров, конкурирующих между собой в этом вопросе (КНР и США). Допустив отставание в реальном секторе экономики (производство товаров, а не услуг и ВВП), США пытаются ликвидировать это отставание, вкладывая огромные средства в технологии обработки больших баз данных (ИИ). США внедряют ИИ в основном в сферу производства, а КНР, опережая их в реальном секторе экономики, внедряет ИИ по преимуществу в логистику. Желание заместить китайское производство своим (в мировом масштабе) отражено в том числе в лозунге республиканцев «Сделаем Америку снова великой!» (очевидно, за счет победы в сфере ИИ).
Как поступить в условиях гонки за технологии ИИ современной России (находящейся в условиях «гибридной вой­ны» на истощение), чтобы сохранить статус великой державы? Очевидно, что практически все в областях ИТ и ИИ основано на зарубежных разработках, особенно в аппаратном обеспечении. Даже если в России будут осуществлены прорывные открытия в этих технологиях, то в это время США и КНР тоже не будут стоять на месте. Сохраняя партнерские отношения с КНР и используя их наработки (если они будут предоставлены), необходимо не изобретать отечественные аналоги (того, что уже есть), тратя ограниченные ресурсы, а направить их на создание своего (российского) ИИ на других физических принципах (аналоговый, квантовый, фотонный, на троичной логике), а пока своего нет, использовать доступный чужой. Это один из вариантов решения проблемы (очевидно, есть и другие). Вместе с тем, ИИ как инструмент автоматизации хорош в отлаженном производстве, а как он проявит себя в нестандартной ситуации, никому не известно —определение, обработка и оценка программных ошибок сложнее, чем работа по заданному алгоритму.
Что касается поставленной руководителем государства задачи, связанной с вкладом ИИ в совокупный ВВП страны, необходимо, чтобы власть дала обществу четкий ответ: что конкретно произведет ИИ на 11 трлн? Или: откуда возникнет экономия в 11 трлн? Теоретически последний вариант возможен, а вот на практике… На Западе раздули огромный пузырь финансовых вложений в ИИ, и в тот момент, когда там осознают, что отдача не соответствует вложениям, рынок начнет схлопываться. Велик риск того, что на мейнстриме ИИ заинтересованные силы в России «освоят» эти средства, не предъявив обществу конкретных результатов в этой области (как не раз уже бывало).
Печально, что данный мейнстрим подхватили отечественные СМИ (либо «за кампанию», либо «по заказу»). Массовому сознанию буквально навязывается тема ИИ, за которой уходят в тень нерешенные проблемы во многих сферах промышленности и сельского хозяйства. Может ли алгоритм обработки больших массивов данных (который способен строить новые алгоритмы, опираясь на уже заложенные данные) решить проблемы реального производства (возрождения станкостроения, гражданского самолетостроения, фармацевтической индустрии, производства элементной базы и т. д.)? Очевидно, что нет. С помощью только ИИ нельзя выточить деталь, выпечь хлеб, он не может заменить военнослужащего на поле боя. Он применим только там, где есть необходимость оптимизировать процесс вычислений, принятия решения или логистики. Следовательно, он может быть лишь вспомогательным инструментом в сфере производства, логистики, обороны, здравоохранения, услуг и т. д., а принятие решения все равно должно оставаться за человеком. Кроме того, массовое применение ИИ и роботизация в производстве, транспорте и др. позволяет высвобождать человека. Значит, необходимо уже сейчас думать, где и как применять свободные руки, чему учить или на что переучивать?
На современном этапе в мировом масштабе прослеживается четкая тенденция навязывания услуг ИИ со стороны, в первую очередь, стратегов непрямого противоборства в глобальном масштабе (очередных претендентов на мировое господство). В региональном масштабе тема подхватывается чиновниками, готовыми говорить о чем угодно, только не о проблемах реального сектора экономики. Таким образом, на уровне государства постоянное муссирование темы ИИ (гранты, форумы, научные конференции, стартапы, программы внедрения и т. д.) связано в первую очередь с имитацией управленческой деятельности и предоставлением бумажной (виртуальной) отчетности как главного показателя работы (отчет по процессу, а не по результату, что противоречит научной системе оценки деятельности). Нельзя забывать, что на уровне государства проблема создания сопоставимого по сложности проекта (атомный проект) начала решаться в тяжелейшем 1942 году (создание рабочей группы), а в 1949 году был продемонстрирован результат (испытание атомного взрывного устройства), что позволило Советскому Союзу обеспечить свою безопасность на долгие годы вперед. В этот отрезок времени уместилось создание целых отраслей промышленности для реализации атомного проекта в разоренной вой­ной стране.
Об ИИ говорят на всех уровнях уже больше десяти лет. Однако ощутимого результата обществу не предъявлено (и когда будет предъявлено, неизвестно). Зато на реализацию проектов с «участием ИИ» отпущены за этот период немалые государственные средства (средства налогоплательщиков). Какой вывод можно сделать из оценки деятельности в сфере ИИ? Вывод очевидный — пока оценивать нечего, так как оценивается только конечный результат, процесс его достижения не подлежит оценке (можно работать или имитировать работу годами, а на выходе ничего не предъявить).
Нужно ли обращать самое пристальное внимание на тенденции развития ИТ и ИИ с выделением государственных ресурсов на достижение конкретных результатов в этой сфере? Конечно. Но только там, где эти технологии уместны и помогают производить реальный (а не виртуальный продукт) и получать результат в реальном, а не виртуальном секторе экономики. И еще — ИИ в широком смысле зависит от того, «кто держит руку на кнопке», и не только энергетической! 

Авторы
Григорий Никоноров, доктор политических наук, доцент
Игорь Родионов, кандидат технических наук