Семён Резниченко.
Искусственный интеллект: взлёт и возможные последствия
Первоначальная публикация:
https://www.apn.ru/index.php?newsid=44850
Наша страна, вероятно, будет стремиться стать лидером по внедрению в жизнь искусственного интеллекта. О чём было заявлено на высшем уровне. «Президент РФ Владимир Путин заявил о значимости «искусственного интеллекта» для человечества:«С внедрением искусственного интеллекта в науку, в образование, в здравоохранение, да во все сферы нашей жизни, человечество начинает новую главу своего существования». По словам Путина, этот тезис «совершенно очевиден». Он поручил нарастить мощность суперкомпьютеров не менее, чем на порядок. По словам президента, это критически важно для дальнейшего развития генеративного ИИ. Также заявлено, что применение технологий «искусственного интеллекта» предприятиями станет в РФ обязательным для получения ими субсидий от государства» (1).
По-видимому, эти идеи разделяет значительное число россиян. «Если верить исследованию СберСтрахования, 61% россиян считают, что дальнейшее развитие и внедрение технологий «искусственного интеллекта» поможет изменить жизнь в лучшую сторону, причём мужчины так думают гораздо чаще женщин: 61% и 39% соответственно. Больше всего респондентов — оптимистов среди молодёжи 18–30 лет (72%)».
Тогда как «в Соединённых Штатах, по данным Исследовательского центра Пью, картина другая: здесь 52% граждан скорее озабочены будущим развитием «искусственного интеллекта», чем рады этому. Скорее рады, чем озабочены, только 10%. Причём озабоченность заметно выросла за год: в 2022 году её высказывали 38% американцев, 15% были рады, а 46% колебались. В частности, американцы считают, что ИИ снизит возможности сохранения личной информации в безопасности (так думают 53%), также он, вероятно, ухудшит качество обслуживания клиентов (34%). Ещё одно беспокойство связано с медициной: 60% американцев опасаются, что их медицинское обслуживание будет препоручено ИИ, 75% боятся, что внедрение таких технологий в здравоохранение будет происходить слишком быстро» (2).
В целом американцы опасаются за свою жизнь и свободу. Россияне надеются иметь дело с честной, трудолюбивой, послушной машиной, на которую многое можно переложить. Именно последнее — важнейшая тенденция.
Современная техника, и в особенности искусственный интеллект – основная причина неопределённости будущего. Раньше ничего подобного не было. Производство и распределение программного обеспечения, контроль за ним, постепенно превращается в основу жизнедеятельности человеческих сообществ. Которые уже постепенно «стягиваются» вокруг производства необходимого контента.
Массовое внедрение ИИ в России, действительно, назрело. Ведь уровень профессионализма населения катастрофически упал. Например, немало молодых инженеров — нефтяников, которые даже не умеют читать чертежи! Инженеры средних лет активно общаются к пожилым коллегам, если они, конечно, есть. Недаром до недавнего времени было огромное количество работающих пенсионеров. Но они стремительно «заканчиваются». А врачи с купленными дипломами…
Тем более, что этот процесс имеет место далеко не только в России. Новейшие тенденции в IT-сфере на Западе говорят о свёртывании её прогресса. Это выражается в понижении уровня образования молодых специалистов, повышения значимости управленцев в ущерб техническим знаниям. В целом, техногенная цивилизация на грани краха, а для жизни на «подножном корме» нет навыков. В таких условиях без ИИ трудно. К тому же скоро понадобиться кем-то заменять трудовых мигрантов. И тут пригодятся промышленные роботы.
Более того, в наше время не хватает многих людей, которые были на протяжении всей истории человечества (как социально — психологических типажей, так и отдельных личностей). Соответственно, нет возможностей использовать их полезные качества.
Поэтому вероятно, что некоторые алгоритмы мышления и поведения значимых личностей, их полезные навыки будут пытаться «оцифровать» и поместить в искусственный интеллект. При этом постараются купировать их недостатки. Например, оцифрованные личности будут «подключаться» к реальному миру для решения определённых задач, а потом уходить в собственный, виртуальный. Насколько это получится – неизвестно. Люди иррациональны, а при оцифровке будут рационализироваться.
Но это — возможное будущее. Тем временем проблемы с искусственным интеллектом уже начались. Росздравнадзор приостановил применение системы с «искусственным интеллектом» в клиниках России «в связи с угрозой причинения вреда жизни и здоровью граждан». Речь идёт о системе для анализа снимков компьютерной томографии Botkin.AI. Начата проверка производителя. Botkin.AI выдали регистрационное удостоверение в 2020 году, компания — разработчик «Интеллоджик» привлекла под свой проект 260 млн рублей» (3).
Да, ИИ пока далеко несовершенен. Но могут возникнуть и другие угрозы, от его чрезмерного развития. Например, чрезмерно эффективный искусственный интеллект может способствовать ещё более быстрой интеллектуальной, волевой и профессиональной деградации людей, которым можно будет «не напрягаться». И не только.
При неофеодализме может иметь место не только укрепление и развитие коллективов выживания — взаимосвязи между людьми. Возможно, развитие получат и современные тенденции атомизации индивидов. На основе нейронных сетей могут возникнуть наборы людей, не являющихся коллективами или, лишенными социальности.
Работающие с сетью могут вообще не контактировать друг с другом и даже не знать о существовании каких-либо реальных людей, кроме них самих. Такие индивиды могут быть эффективно управляемыми, зачастую незаметно для них самих.
Возможно появление внегуманистического общества, в котром подавляется какая-либо самоорганизация, попытки людей действовать в соответствии с поставленными ими самими целями.
Это антисоциум, т.е. большинство людей в нём могут вообще не взаимодействовать друг с другом. Либо они как-то взаимодействуют, но не образуют устойчивых социальных связей. Каждый из них может непосредственно управляться из центра. Людей в таком обществе требуется совсем немного, они заменены машинами.
Если такое общество перестаёт быть нужным владельцу, оно может быть ликвидировано практически сразу.
Да и к чему такие сложности, если нейросети уже сейчас могут работать вместо людей и кормить их не надо. Таким образом, могут «сократить» бухгалтеров, значительную часть медицинских, инженерно-технических работников, юристов, IT — специалистов, журналистов, художников и актёров. И значительную часть чиновников. А роботы тем временем вытесняют рабочие специальности.
Таким образом, успешное развитие технологий, основанных на искусственном интеллекте, может сделать социальную структуру общества гораздо более простой. Значительную часть нынешнего разнообразия могут заменить нейронные сети. При чрезмерном развитии тенденции — лишь начальство и необходимый персонал для работы с ИИ. Ну, ещё для контроля за территорией и ресурсами. В один прекрасный момент персонал и нейросети могут решить, что начальство им, в принципе, не нужно. А тут и ИИ осознал, что и персонал ему не к чему. Такая вот цифровая самоликвидация человечества.
Но это — крайний вариант. Более вероятно, что в будущем искусственный интеллект будет вести некую свою политику, не прямо античеловеческую, но весьма своеобразную. Например, самообучение и погружение в выполнение поставленной человеком задачи может породить план по изменению реальности далеко за рамками первоначальной цели. «Смотрящие» за ИИ люди в перспективе смогут ещё больше. Власть в таком случае становится более независимой от ряда традиционных социальных сил, таких, как многочисленный средний класс и рабочие. Но оказывается лицом к лицу с непредсказуемыми акторами, которые, возможно, будут сами стремиться обладать властью в том или ином объёме.
Что же делать сейчас? Необходимо законодательно прописать использование ИИ конкретного уровня сложности для различных видов деятельности. Необходимы детально разработанные общие и ведомственные правила контроля над искусственным интеллектом (четко очерченная сфера применения, решения принимают люди и пр.). И закрепить квоты для обязательного использования специалистов — людей, особенно в сфере образования, науки и искусства. Их должно быть достаточное количество, чтобы заменить ИИ.
Примечания.
1.Путин заявил, что с внедрением ИИ человечество начинает «новую главу существования»; что думают о ИИ его создатели. URL.:https://www.apn.ru/index.php?newsid=44731 (дата обращения: 3011. 2023).
2.По данным Сбера, россияне больше предвкушают блага от «искусственного интеллекта», чем американцы. URL.: https://www.apn.ru/index.php?newsid=44713 (дата обращения: 3011. 2023).
3. Там же.