Caught in a dichotomy of control

全文:

В плену дихотомии [1] управления

«Разделяй и властвуй».

Гай Юлий Цезарь ², «Записки триумфатора»

«Некоторые вещи в нашей власти, в то время как другие - нет. В нашей власти находятся мнение, мотивация, желание, …, т.е. всё, что мы сами делаем; не в нашей власти …всё, что не наших рук дело».

Эпиктет ³, «Энхиридион»

«Делай, что должно, и свершится, чему суждено».

Марк Аврелий ⁴

«В чём Галилей расходился с Церковью, так это в своём понимании отношения между физической реальностью, с одной стороны, и человеческими мыслями, наблюдениями и рассуждениями – с другой».

Дэвид Дойч ⁵, «Структура реальности»

«Управлять можно тем, что есть, а проектируют то, чего нет» ⁶

Дорогой наш читатель, уважаемые авторы и члены редакционной коллегии!

На прошедшем 29 мая 2024 года семинаре «Проблемы искусственного интеллекта», организуемом Российской ассоциацией искусственного интеллекта совместно с Федеральным исследовательским центром «Информатика и управление» РАН⁷, обсуждались онтологии, как основания для создания информационных систем (ИС). Разработка онтологии в каждой предметной области (ПрО) основана на знаниях специалистов, привлекаемых для формализации их представлений о ПрО, о сущностях, атрибутах, отношениях и их наименованиях, о процессах и ролях сущностей, о критериях и оценках всего, что есть в ПрО. Именно специалисты или их агенты, как субъекты этой ПрО, мысленно или явно погружённые в неё, по определению находятся в «плену» дихотомии управления, опираясь на различные источники и собственное представление, свой опыт и контекст исследуемых ситуаций. Они, первоначально разделяя, декомпозируя пространство ПрО на сущности, выделяют их из него; изучая свойства этих сущностей, выделяют из них важные для рассматриваемых и исследуемых процессов в ПрО; выявляя отношения, в которых эти сущности пребывают в этой ПрО, выбирают из них те, которые оказывают наибольшее влияние на происходящие процессы в ПрО; при этом пытаются для всех случаев моделирования ПрО найти разумные с их точки зрения критерии важности, отбора и приоритизации сущностей, свойств, отношений и процессов в этой ПрО. Объективная ограниченность знаний и компетенций специалистов (здесь можно вспомнить Сократа и его крылатую фразу «Я знаю, что я ничего не знаю») позволяет утверждать, что любая построенная людьми или машиной онтология ПрО, как модель ПрО, - это субъективная (полностью зависимая от сложившихся в ПрО теорий и используемых понятий) картина той части реального мира, которая сама по себе всегда богаче представлений, сформированных создателями этих онтологий ПрО. Тем не менее, именно созданные онтологии позволяют находить консенсус в коммуникациях между специалистами и машинами, в которые загружены онтологии ПрО, именно они позволяют за счёт релевантного и адекватного понимания акторами сути вещей в ПрО ускорить решение тех задач, которые стоят в этой ПрО.

В главе 52 «Энхиридиона» говорится о трёх областях философии⁸, где на первом месте принципы в форме наставлений (например, «не лгать»). Вторая область философии связана с внешними проявлениями принципов (например, почему нельзя лгать). Третья область разъясняет и анализирует две другие: т.е. учит, как распознавать ложь в текущем моменте, учит, что такое истинное и ложное и т.д. Третья область необходима для доступа ко второй, а вторая - для доступа к первой. Большинство задерживается на третьей области, посвящая ей все усилия и забывая о самой важной первой. Поэтому мы постоянно лжём, высказывая доводы в доказательство того, что лгать не надо⁸…

Эпиктет на примере факторов здоровья исследует понятие «некоторый контроль», отмечая важность этической ответственности за намерение быть здоровым (заниматься физическими упражнениями и правильно питаться на благо себя и общества). Предполагать, что у нас есть некоторый контроль над вещами вне этой сферы, значит впадать в сумбурное мышление, ведущее к «разочарованию, печали и беспокойству». Беспокоиться о том, что может быть в какой-то степени под вашим контролем, - это цепляться и надеяться на контроль там, где его нет (см. эпиграф Эпиктета о контроле). Спасение от нужды или страдания всегда в наших руках.

В наше бурное время растёт интерес к стоицизму и растёт число публикаций⁹, в которых обсуждаются принципы стоицизма. Практические руководства по полноценной и довольной жизни, черпающие вдохновение в древней философии стоиков, могут помочь людям ориентироваться в вызовах и неопределённости современной жизни.

Другой взгляд на природу бытия рассматривается в книге Д. Дойча «Начало бесконечности»¹⁰ (2011), в которой развиваются идеи его книги «Структура реальности» ¹¹ (1997). Одним из важных утверждений автора является его объяснительная теория, согласно которой целью науки является объяснение¹², а не предсказание. Сбывшееся предсказание - лишь результат правильного объяснения, которое никогда не бывает полным, а одни объяснительные теории сменяют другие. При этом, благодаря совершенствованию этих теорий, мир понимается лучше¹³. На своём сайте⁵ Д. Дойч приводит глоссарий к книге, давая лаконичные, оригинальные и небесспорные определения ряду важных терминов. Вот некоторые из них.

Объяснение - утверждение о том, что существует, что оно делает, как и почему.

Человек - сущность, способная создавать объяснительные знания.

Вычисления - физический процесс, который реализует свойства некоторой абстрактной сущности.

Доказательство - вычисление, которое, исходя из теории работы компьютера, на котором оно выполняется, устанавливает истинность некоторого абстрактного утверждения.

Наибольший интерес для читателя нашего журнала в книге Д. Дойча представляет глава «Искусственное творческое мышление», где автор рассуждает об искусственном интеллекте (ИИ), о способах его создания и оценки, включая тест Тьюринга.

Забегая вперёд и обращая внимание нашего читателя на статью профессора О.П. Кузнецова о мифах сильного ИИ и о понимании, опубликованную в этом номере журнала, стоит отметить, что Д. Дойч в заключение рекомендуемой главы пишет: «…в области универсального ИИ не достигнуто никакого прогресса из-за нерешённой философской проблемы, лежащей в её основе: мы не понимаем, как устроено творческое мышление…». Д. Дойч утверждает, что объяснения обладают способностью вызывать изменения, и стремление улучшить их является основным регулирующим принципом не только науки, но и всех успешных человеческих начинаний. Поток постоянно совершенствующихся объяснений потенциально имеет бесконечный охват, т.к. известные законы природы не накладывают предела на то, что можно понять, контролировать и достичь.

Научные теории - это объяснения, т.е. утверждения о том, какие процессы и явления существуют в мире и как они протекают. Теории - это догадки и гипотезы, возникающие в голове у человека, который играет идеями, комбинирует и видоизменяет их, сочетая с существующими идеями с целью усовершенствования бытия. Человек не начинает жизнь с «чистого листа», у него есть врождённые ожидания, намерения и способности совершенствовать их с помощью мышления и опыта. Опыт играет в науке важную роль, но главное его предназначение - помочь определиться с выбором одной из нескольких уже предложенных теорий. Дойч сравнивает науку с фокусом, который можно наблюдать и предсказать его результат. Но это не даёт возможности подойти к проблеме того, как устроен фокус, и уж тем более решить её. Для этого требуется объяснение того, что мы видим.

В некоторых областях науки (например, в статистическом анализе) слово «объяснение» стало означать «предсказание», и говорят, что математическая формула «объясняет» набор экспериментальных данных. Под «действительностью» понимаются данные наблюдений, которые формула должна аппроксимировать. Таким образом, для утверждений о реальности не остаётся места - можно лишь признать её «полезной фикцией».

Инструментализм - один из многих способов отрицания реализма, учения о том, что физический мир существует на самом деле и доступен рациональному изучению. Логическим следствием из такого отрицания является то, что все утверждения о реальности эквивалентны мифам, и ни одно из них не лучше другого в объективном смысле. Инструментализм не имеет смысла в своих же собственных терминах. Ведь чисто предсказательной теории, не использующей объяснений, не существует. Даже самое простое предсказание невозможно без опоры на достаточно сложную объяснительную базу. Суть экспериментальной проверки в том, что для рассматриваемого вопроса известно как минимум две жизнеспособные на вид теории, дающие противоречащие друг другу предсказания, которые можно разграничить путём эксперимента. Подобно противоречащим друг другу предсказаниям в случае с экспериментом и наблюдением, в более широком смысле противоречащие друг другу идеи имеют место в случае с рациональным мышлением и исследованием¹⁰.

В книге «Структура реальности»¹¹ Д. Дойч рассматривает критерии реальности.

Изменяются не только объяснения, изменяются наши критерии и представления о том, что должно считаться объяснением. Список приемлемых способов объяснения всегда будет оставаться открытым, а потому и список приемлемых критериев реальности также должен оставаться открытым. Дойч утверждает, что если в соответствии с простейшим объяснением какая-либо сущность является сложной и автономной, значит, эта сущность реальна. Существование общих объяснительных теорий подразумевает, что несравнимые объекты и события некоторым образом физически схожи. В физической реальности есть математические символы, в которых существуют образы этой реальности в целом, образы не только внешнего вида объектов, но и структуры реальности. Существуют описания и объяснения Большого взрыва и субъядерных частиц и процессов; существуют математические абстракции; художественная литература; искусство; этика; теневые фотоны и параллельные вселенные. В той степени, в какой эти символы, образы и теории истинны, т.е. сходны в определённом отношении с конкретными или абстрактными вещами, к которым они относятся, их существование даёт реальности новый вид самоподобия. Это самоподобие и есть знание - заключает Дойч.

Модная тема интеллектуального анализа данных в социальных сетях не обошла и наш журнал. В этом номере журнала статья наших коллег из Кольского научного центра посвящена сбору и обработке данных в этих сетях. Однако разрабатываемые боты («хорошие» и «плохие») уже активно конкурируют с человеком, и ожидать релевантные результаты такого анализа становится всё труднее.

Плохие боты - это программные приложения, которые выполняют автоматизированные задачи со злым умыслом¹⁴. Они собирают данные с сайтов без разрешения, чтобы использовать их и получить конкурентное преимущество (например, цены, уровни запасов, фирменный контент). Они используются для создания распределённых атак, нацеленных на сеть или приложение. Особо опасные из них занимаются преступной деятельностью (мошенничество, воровство).

Из всего Интернет-трафика в 2022 году 47,4% был автоматизированным трафиком, т.е. созданным ботами, по сравнению с 42,3% в 2021 году. Из этого автоматизированного трафика 30,2% были плохими ботами, на 2,5% больше в 2021 году. Хорошие боты также растут, составляя 17,3% по сравнению с 14,6% в 2021 году. Процент человеческого трафика продолжает свою тенденцию к снижению, с 57,7% в 2021 году до 52,6% в 2022 году. Из всех атак, зафиксированных Imperva за последний год, 27% были плохими ботами. США остаются приоритетной целью атак ботов, т.к. 41,1% атак были направлены на веб-сайты, базирующиеся в США. Австралия стала второй страной, подвергшейся наибольшему количеству атак плохих ботов в 2022 году (16,4% атак ботов), на Великобританию было направлено 6,8% атак, Россия на 10-ом месте (1.5%).

Теория «мёртвого Интернета»¹⁵ утверждает, что активность и контент в Интернете, в т.ч. аккаунты в социальных сетях, в основном создаются и автоматизируются агентами ИИ. Уже сейчас есть убедительные доказательства того, что эти боты манипулируют социальными сетями, чтобы влиять на общественное мнение с помощью дезинформации. Теория о «мёртвом Интернете» — это напоминание о том, что нужно быть скептичным и критически относиться к социальным сетям и другим веб-сайтам. У «теории мёртвого Интернета» есть объяснение: контент, созданный ИИ и ботами, превысил контент, созданный людьми.

В этом году научную общественность удивило решение Нобелевского комитета¹⁶, которое подтвердило факт, что «информация правит миром». «Никто и подумать не мог, что лауреатами Нобелевской премии по физике станут нейробиологи и информатики» ¹⁷, но лауреатами Нобелевской премии¹⁸ по физике стали американский учёный Джон Хопфилд (1933 г.р.) и британско-канадский учёный Джеффри Хинтон (1947 г.р.) за «основополагающие открытия и изобретения, которые сделали возможным машинное обучение с использованием искусственных нейросетей». Научные достижения лауреатов также применяются при моделировании климата, разработке солнечных батарей и анализе медицинских изображений. Взяв за основу фундаментальные принципы физики, Хинтон и Хопфилд разработали алгоритмы, позволяющие использовать структуру машинных сетей для обработки информации, что позволяет программе обучаться и совершенствоваться самостоятельно, уже без помощи человека. Вдохновившись одной из систем, обнаруженных в атомной физике, Джон Хопфилд в 1982 году придумал сеть Хопфилда - нейросеть, способную запоминать изображения (и любые шаблоны), а потом воссоздавать их. Джеффри Хинтона некоторые называют «отцом ИИ», он главный среди тех, кто придумал первые «глубокие сети». Используя сеть Хопфилда и инструменты из статистической физики, Хинтон создал новый тип нейросетей - машину Больцмана, способную научиться распознавать в данных характерные элементы или признаки.

На пресс-конференции после сообщения о присуждении премии Хинтон назвал свою работу над нейронными сетями революционной, но также выразил беспокойство по поводу её возможного применения в будущем. Он сказал, что не сожалеет о своих открытиях и готов сделать их снова. «Но меня беспокоит, что в результате этого могут появиться системы, более интеллектуальные, чем мы, которые в конечном итоге возьмут управление в свои руки», - отметил учёный, говоря «с некоторой долей сожаления» о проведённых исследованиях¹⁹.

Не обошли награды и членов редколлегии нашего журнала. Так, 4 октября 2024 г. на заседании Объединённого учёного совета СамНЦ РАН заместителю главного редактора С.В. Смирнову вручён знак «Почётный работник науки и высоких технологий Российской Федерации», а 18 октября на заседании учёного совета Самарского национального исследовательского университета имени С.П. Королёва медали «За безупречный труд и отличие» Минобрнауки РФ был удостоен выпускающий редактор журнала Н.М. Боргест.

Виртуальных медалей «За бескорыстный труд на благо науки» удостоены все члены редколлегии и редакции журнала, т.к. считывают поток позитивных откликов от читателей и авторов журнала. В нашем случае медаль, как знак, как символ, имеет своё материальное воплощение в виде печатных номеров журнала, где в каждом номере отмечаются имена тех, кто поддерживает журнал своим участием. Этих медалей удостоены и все авторы, которые делятся своими знаниями, добывая их в упорном труде. Все действующие лица, участвующие в создании и выпуске журнала, сеют «разумное, доброе, вечное», а призыв великого русского поэта Н.А. Некрасова актуален, как никогда, и сейчас «…Сейте! Спасибо вам скажет сердечное русский народ...».

В номере

В разделе «Общие вопросы формализации проектирования: онтологические аспекты и когнитивное моделирование» рассмотрены: мифы о сильном ИИ и что такое понимание (Москва); оценки антропологического воздействия интерфейсов на этапе проектирования программно-аппаратного обеспечения (Казань); концептуально-онтологические аспекты множественности предка в информационных моделях «сущность-связь» (Уфа).

В разделе «Прикладные онтологии проектирования» рассмотрены: графы знаний для клинического мониторинга при лечении пациентов (Владивосток); конструктивные алгоритмы автоматизированного 3D-решения позиционных задач (Омск); информационно-аналитическая система детектирования движения объектов на пешеходном переходе (Курск); электронный корпус татарского языка на базе модели лингвистических графов знаний тюркских языков (Казань).

В разделе «Инжиниринг онтологий» рассмотрены: разработка предметных графов знаний на основе семантического аннотирования табличных данных (Иркутск); технология фокусированного сбора и обработки открытых данных социальных медиа (Апатиты).

В разделе «Методы и технологии принятия решений» рассмотрены: интерактивное приложение, реализующее метод уверенных суждений на массовой программной платформе (Самара); система поддержки принятия решений при выборе типа кожухотрубчатого теплообменника (Тамбов); классификация основных многокритериальных методов принятия решений (Москва).

Ontologists and designers of all countries and subject areas, join us!

各國各學科領域的本體論者與設計師，加入我們吧！

¹ Дихотомия (иначе «Стадий») - одна из четырёх апорий древнегреческого философа Зенона (490–425 гг. до н. э.) известна как метод классификации путём деления на два вида объёма понятия (класса, множества), в котором члены деления логически несовместимы (см., например, Большая российская энциклопедия 2004–2017. https://old.bigenc.ru/philosophy/text/1960890). Про классы, множества и парадоксы Зенона см. также: Боргест Н.М. Понятие «множество» в теории и практике проектирования // Онтология проектирования. 2023. Т.13, №3(49). С.306-332.

² Гай Юлий Цезарь (100-44 до н.э.) - древнеримский государственный и политический деятель, полководец, писатель.

³ Эпиктет (50-138 гг.) - древнегреческий философ-стоик; основал в Никополе философскую школу. Выдержки из его учения, известные под названиями «Беседы» и «Руководство» (Энхиридион), сохранились в записи его учеников.

⁴ Марк Аврелий (121-180 гг.) - римский император, философ - представитель позднего стоицизма, последователь Эпиктета.

⁵ Дэвид Дойч (David Deutsch; 1953) - британский физик-теоретик (Оксфордский университет), автор научно-популярных книг «The Fabric of Reality» и «The Beginning of Infinity». Сайт учёного: https://www.daviddeutsch.org.uk/.

⁶ Боргест Н.М. Ключевые термины онтологии проектирования: обзор, анализ, обобщения. Онтология проектирования. №(9). 2013. С.9-31. https://www.ontology-of-designing.ru/old/article/2013_3%289%29/3_Borgest.pdf.

Кажущаяся несовместимость приведённых многочисленных эпиграфов призвана вызвать интерес, а потом помочь читателю сформировать цельность, связность и глубину излагаемых в редакционной статье мыслей уже после её прочтения.

⁷ Боргест Н.М. Онтологии и информационные системы. 29.05.2024. http://seminar.railab.ru/index.php?id=15.

https://ssau.ru/news/23014-professor-nikolay-borgest-vystupil-s-dokladom-na-seminare-v-moskve.

⁸ Эпиктет. Энхиридион (Краткое руководство к нравственной жизни); Симпликий. Комментарий на «Энхиридион» Эпиктета. СПб.: «Владимир Даль», 2012. 399 с.

⁹ William B. Irvine. A Guide to the Good Life: The Ancient Art of Stoic Joy. OUP USA. 2009. 336 p.

Donald Robertson. Stoicism and the Art of Happiness: A Teach Yourself Guide. McGraw-Hill Education, 2014. 224 p.

Steven Gambardella. Stoicism and Health. AUG 01, 2024. https://substack.com/home/post/p-147229192.

¹⁰ Дойч Д. Начало бесконечности: Объяснения, которые меняют мир / Пер. с англ. М.: Альпина нон-фикшн, 2014. 581 с.

¹¹ Дойч Д. Структура реальности. Наука параллельных вселенных / Пер. с англ. М.: «Альпина нон-фикшн», 2015. 451 с.

¹² См. также: Коммюнике онтологического саммита 2019: ОБЪЯСНЕНИЕ (Фрагмент проекта «Ontology Summit 2019 Communiqu´e: Explanations» в журнале Онтология проектирования, том 9, №2(32)/2019. С.299-300.) и статью Боргеста Н.М. Стратегии интеллекта и его онтологии: попытка разобраться // Онтология проектирования. 2019. Т.9, №4(34). С.407-428.

¹³ Дойч, Дэвид. https://ru.wikipedia.org/wiki/Дойч,_Дэвид.

¹⁴ 2023 Imperva Bad Bot Report. 2023. 44 p. https://www.imperva.com/resources/reports/2023-Imperva-Bad-Bot-Report.pdf

¹⁵ Renzella J., Rozova V. The ‘dead internet theory’ makes eerie claims about an AI-run web. The truth is more sinister. The Conversation. Academic rigour, journalistic flair. May 20, 2024. https://theconversation.com/the-dead-internet-theory-makes-eerie-claims-about-an-ai-run-web-the-truth-is-more-sinister-229609.

¹⁶ Press release. The Nobel Prize in Physics 2024. 8 October 2024. https://www.nobelprize.org/prizes/physics/2024/press-release/.

¹⁷ iLushkersky. 10 окт в 13:03. Размышления о Нобелевской премии по физике 2024. https://habr.com/ru/articles/849668/.

¹⁸ Штайнер А. Нобелевская премия 2024. Granite of science. Научно-популярный журнал. 08.10.2024. https://un-sci.com/ru/2024/10/08/nobelevskaya-premiya-2024-obnovlyaetsya/.

¹⁹ Нобелевский лауреат по физике Хинтон заявил о рисках, связанных с нейросетями. 8 октября 2024. https://www.interfax.ru/world/985807.

参考

补充文件

附件文件

动作

1. JATS XML

下载

2. Fig.1

下载 (58KB)

索引源数据

3. Fig.2

下载 (33KB)

索引源数据