Дроздов Б.В.
ПРЕДЕЛЫ, ОГРАНИЧЕНИЯ И ПОСЛЕДСТВИЯ ВНЕДРЕНИЯ
СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Ключевые слова. Наука, технологии, искусственный интеллект, социум, эволюция.
Keywords: science, technology, artificial intellect, society, evolution.

Современный этап научно-технологического развития в последние годы стали называть эпохой искусственного интеллекта (ИИ), когда широко создаются и внедряются  так называемые системы искусственного интеллекта (ИИ). В результате широкого внедрения этих систем ИИ на разных уровнях и в сферах деятельности появляются такие понятия, как «умные» дома, заводы, фабрики и города.   

Широкое распространение таких представлений породило в массовом сознании ряд иллюзий и заблуждений о реализуемых  направлениях научно-технологического развития и об их результатах. Эти мифы и заблуждения являются следствием такого  известного из лингвистики явления как гипостазирование, когда какому-либо  достаточно отвлеченному понятию придают смысл самостоятельного бытия. С.Г. Кара-Мурза писал в одной из своих работ: «склонность к гипостазированию, т.е. к приписыванию реального содержания построенным в уме конструкциям, — худший враг логического мышления» [Кара-Мурза, 2005, 715].   Один из  мифов состоит в том, что широкое распространение  систем ИИ, внедрение на основе этого совершенных   роботов — автоматов вытеснят человека, все будут делать эти машины. Искусственный интеллект, якобы,  сам все будет продумывать и решать, в результате чего начнется массовая безработица,  негативная эволюция социума, трансформация человеческой активности, сдвиги в культуре, морали и нравственности. Здесь необходимо  непредвзято оценить  ожидаемые  трансформации современного социума в наступающей новой научно-технологической  эпохе, называемой эпохой цифровых трансформаций.

Под искусственным интеллектом (ИИ) принято понимать  комплекс технических и технологических решений, позволяющий имитировать когнитивные функции человека  и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Этот комплекс  включает в себя информационно-коммуникационную  инфраструктуру (включая информационные системы, информационно-телекоммуникационные сети, иные технические средства сбора, передачи, хранения и обработки информации), программное обеспечение (в том числе используемое для реализации методов машинного обучения), процессы и сервисы по обработке данных и поиску решений.  Неполная разработанность самого  понятия ИИ отмечается как на отечественном, так и на международном уровне. Не зря в нашей стране был создан специальный технический комитет по стандартизации ТК-164 «Искусственный интеллект» для разработки и продвижения отечественных стандартов  в области ИИ на международном уровне.

Реальная многолетняя практика  разработки и внедрения современных цифровых технологий и  систем ИИ показала, что это в конечном итоге не облегчает и не снижает требований к уровню интеллектуальной деятельности социума. Наоборот, — на  человека,  в результате возлагается  выполнение множества новых, интеллектуальных по своей сути функций. К ним относятся, прежде всего – исследование, разработка и внедрение самих систем ИИ,   контроль деятельности созданных  автоматизированных систем, тестирование, наладка и их техническое обслуживание, ремонт, реконструкция и развитие всего машинного, компьютерного и информационно-технологического хозяйства. Творческая часть работы человека в итоге по большей части сосредотачивается на мыслительной сфере, которая по своему объему, после произведенной автоматизации, только расширяется, раскрывая новые, до  этого периода неизведанные им горизонты мысли. 

На этапе  создания систем ИИ социуму приходится преодолевать естественно возникающие при этом трудности, препятствия и пороги автоматизации. В процессе  преодоления этих порогов сам социум вынужден трансформироваться, совершая новые продвижения в своей интеллектуальной и психо-эмоциональной природе.

Первым из этих порогов  создания ИИ является методологический (концептуальный) порог, вызванный естественными ограничениями понимания создателем ИИ сущности самого естественного (природного) интеллекта. Все здесь упирается в  концептуализацию естественного (истинного) интеллекта, т.е. в формирование понятийного (и даже –предпонятийного)  образа того, что здесь по своей сути является интеллектуальным действием. Этот начальный образ должен далее получить строгое понятийное наполнение («шлифовку» понятия). Должен быть выбран, отработан понятийный аппарат и определена структура сопряженных понятий (т.е. состав и взаимосвязи всей совокупности понятий). Должен быть проведен семантический анализ всей совокупности используемых категорий, сформированы смысловые метафорические схемы (концептуальные схемы). Но этого начального понимания (концептуального понимания – концептуализации)  еще совершенно не достаточно для перехода к практическому созданию ИИ.

Дальше появляются  новые этапы и на этом пути, – новые препятствия при разработке систем ИИ. Они возникают на следующих (после концептуализации)  этапах – этапах технологизации, формализации и алгоритмизации. На этапе технологизации должна быть выделена  структурированная технология мыслительной деятельности, т.е. последовательность и взаимосвязи действий (включая предмыслительные и мыслительные). Эта последовательность должна обозначаться в объективной,   т.е. в зафиксированной, доступной для понимания, воспроизведения и обучения форме.

Обозначенная технология (состав и взаимосвязи действий) далее должна подвергаться одной из центральных (важнейших) процедур — формализации. На этом этапе возникают новые и достаточно серьезные ограничения. Здесь должен быть выбран или создан  новый, ранее не существовавший, формальный инструментарий (формальный аппарат). С его помощью должна   быть описана (зафиксирована в объективной форме) вся выявленная технология мыслительных действий. Это описание должно представлять собой формальную или формализованную модель мыслительного процесса.   Здесь принципиальным является  качество формального аппарата, применяемого на этапе формализации, т.е. его адекватность, полнота, однозначность составленной модели. В качестве наиболее распространенного формального аппарата здесь принято широко использовать аппарат математики. Но могущество математики определяется степенью адекватности математической (формальной)  модели своему содержательному (предметному) объекту. Эта модель базируется на концептуальной модели объекта (мыслительного процесса)  и уровне соответствия этих двух моделей (концептуальной и математической). К формальным или формализованным  аппаратам относятся также  средства   когнитивной графики, в частности, — язык Форпост, процессные схемы системного анализа, сетевые схемы [Беляев,  1997, 396]. Средства когнитивной графики облегчают понимание технологии действий и открывают дорогу для последующего эффективного применения  формального аппарата  математики.

 Формально описанная схема технологии мыслительного действия  позволяет перейти к этапу составления алгоритма, на основании  которого  будет создаваться программа для ЭВМ. Для случая с нейронными сетями необходимо составить структуру (схему) компьютерной  сети, которая будет воспроизводить ранее уже выявленные формализованные действия. С учетом допущенных при прохождении каждого этапа  упрощений (этапов концептуализации, технологизации, формализации и алгоритмизации)  в конечном итоге на долю созданного ИИ будет приходиться  выполнение   так называемых рутинных функций. Они должны  выполняться автоматически, т.е.  по определенной программе (или реализованные электронной сетью, имитирующей нейронную сеть), или автоматически настраиваться с помощью заранее выбранной программы настройки.

Перед переходом к завершающим этапам алгоритмизации и программирования  может возникнуть ряд сложностей, которые часто преодолеваются за счет упрощения (намеренного или непреднамеренного,  но допустимого искажения исследуемого процесса). Поэтому даже созданный в итоге программный комплекс (автомат) свои функции будет выполнять с определенной степенью приближения к изначально заданным. Фактически то, что общественным сознанием называется созданием системы ИИ, на самом деле есть рутинное подкрепление, автоматизация выполняемых человеком функций (процессов, процедур, операций). Система ИИ – это не автомат, который полностью заменяет человека и выполняет всю его работу, включая и сугубо интеллектуальную, а машинная часть созданной автоматизированной системы. Рутинная часть работы здесь выполняется автоматом (машиной), а творческая остается за человеком.

Следующие  ограничения, возникающие   на этапе создания систем ИИ,  находятся в социальной сфере. Они  создаются  такими  субъектами работ по созданию систем ИИ, как заказчик, спонсор, финансист, собственник, разработчик, изготовитель и оператор искусственного интеллекта. Собственник, заказчик и спонсор (финансист) определяют для разработчика цели и задачи создания ИИ, предметную сферу человеческой деятельности, которая должна быть ареной разработки и применения ИИ. Они же определяют ограничения и запреты на сферу исследований и разработок, глубину и характер погружения в эту предметную область. Эти же социальные субъекты  четко определяют для разработчика границы того, что принято в наше время называть «коммерческой тайной», за которую в условиях утвердившихся повсюду рыночных отношений категорически запрещено заходить непосвященным в эту сферу.

Естественно, что характер, типы и масштабы сложностей при создании систем ИИ зависят от того, в каких сферах и областях человеческой деятельности предполагается разработка и внедрение этих систем. Например, в таких сферах, как распознавание графических, звуковых или визуальных образов, грамматический анализ текстов, обработка сигналов и т.п. вполне эффективно могут быть использованы уже разработанные формальные методы и приемы, которые позволяют достаточно эффективно сводить автоматизируемые процессы к рутинным (формальным или формализованным процедурам). При повышении уровня и масштаба человеческой деятельности, в сферу которой предстоит внедрять системы ИИ, исследователям и разработчикам этих систем предстоит преодолевать все белее серьезные препятствия, пороги и ограничения. Более сложные по своему характеру могут возникать и последствия от внедрения систем ИИ. В ряде случаев эти последствия могут быть и не вполне очевидными и заметными. 

Широкое внедрение во многие сферы человеческой деятельности систем ИИ приводит (кроме решения официально заявленных задач) к возникновению серьезных последствий в различных областях той сферы деятельности, в которой внедряются эти системы ИИ. Одна из таких областей – это область организационно-функциональная. Самым заметным последствием внедрения систем ИИ в этой области является необходимость создания  такого обязательного  нового звена данной области, как оператор  ИИ, который  является неотъемлемым элементом всей системы  ИИ,  прямо отвечающим за работу ИИ. Но первым неотъемлемым организационным звеном любой системы ИИ является его разработчик (проектант). Потом естественным образом возникает и так называемый ремонтер, т.е. люди, или организации, отвечающие за ремонт, реконструкцию и развитие ИИ. Показательным в этом смысле являются последствия  создания больших информационных систем (так называемых BigDate). У каждой такой системы есть разработчик (носитель замысла системы), оператор и совокупность так называемых Information managements, программистов и технических специалистов различных профилей, уровней и назначений.

Таким образом, создание и внедрение в определенной сфере человеческой деятельности систем ИИ приводит к возникновению целого комплекса необходимо связанных с ним организационных и структурно-функциональных звеньев. Таким образом, сам информационно-технический объект   (ИИ) оказывается тесно взаимосвязанным с  множеством активно участвующих во всех процессах функционирования ИИ звеньев, как бы «обрастает» со всех сторон этими сопутствующими элементами, которые нередко для стороннего наблюдателя оказываются и незаметными.  

При оценке перспектив и последствий разработки и внедрения систем ИИ необходимо учитывать также все обстоятельства и последствия работы этой системы в случаях, если что-то в  ИИ случается нештатное (чрезвычайное, неожиданное) – поломки, выходы из строя, сбои, ошибки. Внедрению систем ИИ должны сопутствовать усилия по предупреждению, исключению или по блокированию и исправлению негативных последствий от сбоев систем ИИ. В качестве таких компенсирующих, блокирующих, дублирующих систем должны предусматриваться запасные (дублирующие)  схемы работы всего производственно-экономического или социально-экономического комплекса в случае выхода из строя системы ИИ. Это звенья, элементы  естественного (природного) интеллекта, которые должны находится в постоянной мобилизационной готовности.

Развитие действующих на постоянной основе многообразных систем и комплексов ИИ приводит к  необходимости создания  специализированных, работающих на профессиональной основе инженерно-интеллектуальных служб (ИИС). Таким образом, любой ИИ для своего функционирования требует создания и постоянного функционирования  соответствующей поддерживающей инженерной службы, Так же, как в авиации для нормальной эксплуатации самолетов была в свое время создана мощная инженерно-авиационная служба — ИАС. Такой же инженерно-интеллектуальной службы (ИИС) (службы инженерной поддержки системы искусственного интеллекта – ИПСИИ) требует и система ИИ.  Одна из задач этой службы – поддержка ее функционирования при всех режимах, как в штатных (нормальных) ситуациях, так и при сбоях, дефектах, возникающих при нештатных ситуациях. Она должна фиксировать эти сбои, анализировать их, демпфировать (устранять возможные нештатные действия ИИ и вводить корректировки  (исправления) в изначальный проект ИИ). Данная служба представляет собой  непосредственно связанный с ИИ естественный интеллект, который помогает ИИ нормально (штатно) функционировать при любых нештатных ситуациях. Основу ИИС должны составлять инженеры по искусственному интеллекту — ИИИ. ИИС должна быть сформирована по той же логике, как ИАС в ВВС. Ведь первоначально в авиационной сфере самолеты попадали в войска и эксплуатировались без ИАС. Потом, когда начала резко повышаться аварийность из-за сложностей оборудования самолетов, сложностей и специфики их обслуживания специальным постановлением высшего руководства страны была создана ИАС, для нее начали готовить в военных академиях специалистов по ИАС.

Какие функции должны быть возложены на ИИС? Это, в первую очередь, прием в эксплуатацию и внедрение ИИ, сопровождение, поддержание ее работы, регулярное тестирование оборудования, контроль работоспособности, организация ремонта, реконструкции и развития, мониторинг, анализ качества функционирования, подготовка и участие в оперативно-штабных учениях, в которых основным действующим звеном является система ИИ. Необходимость устойчивого и эффективного функционирования систем ИИ должны приводить и к определенной перестройки функционально-технологического режима работы всей организации.   

В конечном счете,  создание ИИ не облегчает человеческую интеллектуальную работу, а наоборот, — нагружает его более серьезной, более интеллектуально сложной работой. Передавая машине рутинные функции, человек  создает себе новые проблемы, решение которых оказывается более значимыми, более принципиальными для развития человеческой цивилизации. Вычленяя рутинные функции, передавая их выполнение машине, т.е. освобождая человека от их выполнения, в определенной степени трансформируется и психо-эмоциональная природа человека. В  реальности интеллектуальная деятельность человека протекает в тесной взаимосвязи с двигательной и эмоциональной, интуитивно ощущаемой, деятельностью. Освобождая человека от рутинных функций, выполняемых на интуитивном уровне, изменяется природа человека. Например, широкое применение навигационных систем в сфере управления движением автомобиля по городским дорогам, приводит к изменению восприятия человеком города, меняется объем его знаний (интуитивных, образных) об «устройстве» города, что не может не сказаться на профессиональной квалификации водителя автомобиля.

Передаче ряда видов человеческой деятельности машинам, механизмам, приборам и устройствам, а именно – системам ИИ, в конечном итоге приводят к изменениям в психо-интеллектуальной сфере  социума. В результате внедрения систем ИИ  трансформируется функциональная структура  деятельности и психо-интеллектуальный настрой человека. Возникающие при этом эволюции (трансформации) могут иметь как позитивный, так и негативный характер. Все здесь определяется тем, какие сдвиги будут происходить в человеческой деятельности после автоматизации, в частности, — после внедрения систем ИИ. В реальной человеческой деятельности творческие и  рутинные процессы   тесно переплетены и взаимосвязаны. Так же, как в психо-интеллектульной деятельности человека тесно связаны процессы, происходящие во всех областях человеческого мозга и всей нервной системе. Итог внедрения систем ИИ определяется тем, насколько органично для человека  будет проходить этот процесс.  В результате внедрения систем ИИ нормативно (т.е. согласно изначально заданному конструктивному замыслу) должно происходить интеллектуально-психологическое оздоровление общества, усиление рационального начала в мышлении и поведении. Это должно подкрепляться и воспитанием социальной ответственности, психологической устойчивости и трудовой мобилизованности социума.

Оценка результата формализации и вычленения рутинных составляющих в человеческой деятельности и передачи их автомату, что определяет  содержание процесса создания ИИ,  может оказаться далеко  не такой однозначный и определенной. Для некоторых видов деятельности (операторская, диспетчерская, управление движением  транспортных средств, уборка служебных помещений, заставленных сложнейшей техникой и документацией, а также уникальной хрустальной посудой)) рутинная (формализуемая) составляющая деятельности теснейшим образом переплетена с интуитивной, чувственно-эмоциональной,  индивидуально-ситуативной видами деятельности. Вычленение рутинной составляющей части деятельности человека и полная передача ее созданной системе  ИИ при исключении  влияния человека может привести к трудно прогнозируемым последствиям. В самой исходной производственно-экономической системе могут происходить разнообразные структурные и социально-экономические трансформации.

В качестве конкретного примера практического преодоления пределов и ограничений при оценке возникших последствий при внедрении систем ИИ в сложную организационную систему можно рассмотреть итоги разработки и внедрения автоматизированной системы управления городскими пассажирскими перевозками в сбойных и чрезвычайных ситуациях («Сбой на метро») для условий крупного города, например, такого, как Москва. Реально функциональное пространство человеческой деятельности по организации и управлению пассажирскими перевозками в масштабе такого крупного города, как Москва, оказалось исключительно сложным и трудно формализуемым. Наиболее подготовленными для формализации и последующего внедрения компьютерных технологий оказались задачи разработки  схем специальных автобусных маршрутов, определения их эксплуатационных показателей и  формирования способов организации этих маршрутов. Однако, даже для этого примера конкретное решение возникающих задач выявило наличие большого количества трудно формализуемых или совсем не поддающихся полной формализации факторов. Анализ показал, что возможен и наиболее рационален учет этих факторов на этапе дополнительной корректировки предварительно полученных результатов решения задач на основе заранее подготовленных формальных алгоритмов и моделей. В конечном итоге была принята и успешно применена технология  органичного взаимодействия (синтеза) методов ИИ и интеллекта естественного. В реальных носителях этого естественного интеллекта реально концентрируется годами накопленный и проверенный на практике опыт практического действия в конкретных городских условиях. Итоговый результат (схемы маршрутов, показатели их эксплуатационных характеристик и таблицы организации маршрутов) представлял собой органический синтез труда искусственного и естественного интеллекта. Такая работа проводилась на этапе исследования и разработки системы, а ее результаты включались в интегрированную базу данных системы, которая актуализировалась специальной компьютерной программой при функционировании системы в процессе ее эксплуатации.

Таким образом, при создании данной системы были на практике отработаны следующие  способы преодоления ограничений и порогов разработки и внедрения систем ИИ и выявлены следующие организационно-технические последствия:

На начальном этапе исследования и предварительной проектной разработки формировалась упрощенная формализованная схема (не вполне адекватная), на основе которой формировались алгоритмы функционирования ИИ, с помощью которых составлялись наборы решений (маршрутные схемы, эксплуатационные показатели, таблицы решений). На следующем этапе полученные решения детально согласовывались, уточнялись и корректировались с помощью профессионалов-практиков по каждому конкретному решению. Результаты такой корректировки использовались при корректировке ранее использованных алгоритмов решения. При необходимости циклы такой корректировки и согласования повторялись до получения наиболее приемлемого  решения. Полный комплекс полученных решений оформлялся в виде совокупности компьютерных баз данных.

Подготовленная система ИИ и сформированные с ее помощью базы данных испытывались и отрабатывались с помощью активных методов – оперативно-штабных учений, деловых и имитационных игр.

Разработанная и введенная в эксплуатацию система совершенствовалась и модернизировалась в процессе эксплуатации   силами специально созданной службы авторского сопровождения, поддержания и развития.

Опыт создания этой системы показал важность и необходимость организации упомянутой выше специальной профессиональной инженерно-интеллектуальной службы (ИИС), которая становится органической частью созданной системы ИИ.

Большое практическое значения для обеспечения эффективной эксплуатации системы является применение на регулярной основе современных активных методов (оперативно-штабных учений, ситуационных игр, обучение персонала на специально разыгрываемых ситуациях).

  В реальности только построив и внедрив системы искусственного интеллекта,  человечество начинает понимать, как мало оно знает о собственном интеллекте и мышлении, о природе человека и общества. После осознания этого начинается реальное развитие человеческого  интеллекта и всего социума, владеющего, порождающего и развивающего этот интеллект.

 

Литература

1. Беляев И.П., Капустян В.М. Процессы и концепты. -М.: ТОО «СИМС». 1997. -396 с.
2. Бодрунов С.Д. Ноономика: Монография/ –М.: Культурная революция, 2018. – 432 с.
3. Бодрунов С.Д. Общая теория ноономики/ С.Д. Бодрунов. –М.: Культурная революция, 2019. – 502 с.
4. Бухарин Н. Этюды: Репринтное воспроизведение издания 1932 г. -М.: «Книга».. 1988. -360 с.
5. Дроздов Б.В. Перспективные направления новой индустриализации России
   //Мир новой экономики. –2014. -N 3. С.  14-20.
6. Дроздов Б.В. Социальные корни техносферных катастроф./Б.В. Дроздов // Сборник трудов социо-культурного семинара имени В.В. Бугровского. Выпуск 8. -М, 2015. С. 136-148.
7. Дроздов Б.В. Направления эволюции социума в технотронную эпоху./Б.В. Дроздов // «Культура. Народ. Экосфера»: Сборник трудов социо-культурного семинара имени В.В. Бугровского. Выпуск 10. –М., 2017, -С. 76-94.
8. Дроздов Б.В. Введение в проектирование организационных технологий. –М.: «Спутник+», 2005. – 135 с.
9. Кара-Мурза С.Г. Потерянный разум, М.: ЭКСМО «Алгоритм», 2005. – 715 с.
10. Кун Т. Структура научных революций: Сб.: Пер. с англ./ Т. Кун.- М: ООО   Издательство «АСТ»: ЗАО НПП «Ермак», 2003, — 365 с..
11. Чесноков В.С. Страницы биографии. Побиск Георгиевич Кузнецов. 1924-2000.К 85-летию со дня рождения./В.С.Чесноков//. «Культура. Народ. Экосфера»: Сборник трудов социо-культурного семинара имени В.В. Бугровского. Выпуск 4. –М., 2000, — С. 189-216.
12. Дроздов Б.В. Информационные технологии координации пассажирских перевозок в крупном городе. В сб. «Разработка и внедрение новых технологий на транспорте»,. М., 1993, С. 78-83.
13. Дроздов Б.В., Емельянович В.А. Концепция внедрения интеллектуальных транспортных систем в крупных городах. Труды Всесоюзной научной конференции «Научно-технический прогресс на транспорте России в 21 веке», М., 2001, — С.. 39.
14. Дроздов Б.В. Информатизация координированного управления пассажирскими перевозками в Москве. В сб. «Новые информационные технологии в АСУ городом», М., 1990, -С. .