Assessing the anthropological impact of interfaces in the design stage of software and hardware

全文:

Введение

По мере распространения и внедрения киберфизических систем (КФС) в деятельность общества всё бо̀льшее значение приобретают интерфейсы прикладного уровня. При использовании указанных интерфейсов организуется взаимодействие программно-аппаратного обеспечения (ПАО), включённого в состав КФС, с различными акторами, как естественными (пользователи), так и искусственными (алгоритмы искусственного интеллекта, ИИ) [1]. От параметров интерфейса зависит качество взаимодействия акторов с ПАО различного назначения (см., например, [2, 3]). В контексте перехода от индустриального Общества 3.0 к постиндустриальному Обществу 4.0 акцент делался в бо̀льшей степени на физическое воздействие и в меньшей степени на информационное воздействие ПАО на пользователя [2]. С переходом к Обществу 5.0 акцент постепенно смещается в сторону информационного воздействия на актора. В связи с увеличением сложности и комплексности цифровых образов объектов информационное воздействие производится не только на пользователей, но и на ИИ. Это воздействие может носить латентный характер.

Технический объект и связанная с его созданием предметная область (ПрО) имеют искусственное происхождение и основаны на информационных моделях, описываемых формальными выражениями [4–10]. Данные выражения могут быть преобразованы ПАО в визуальные или аудио-визуальные отображения, понятные пользователю [9-11]. Развитие КФС сопровождается расширением и углублением внедрения вычислительной техники в естественные системы [12, 13]. Становится актуальным вопрос обеспечения относительно полноты отображения естественной ПрО через формальные выражения [14]. Если цифровой образ ПрО будет отображён в полном объёме, то на пользователя будет обрушена лавина информации, ведущая к его информационной перегрузке. Если цифровой образ будет отображён для пользователя в сжатом виде, используя алгоритмы ИИ, то повышается вероятность порождения у пользователя искажённого или неполного представления о ПрО, вызванного тем, что при сжатии может быть утеряна информация о характеристиках ПрО, важных для пользователя [15].

Информационное воздействие на пользователя ПАО заключается в том, что он составляет своё представление о ПрО на основе её онтологических моделей (ОМ). Оценка антропологического воздействия интерфейса на этапе проектирования ПАО может быть получена при использовании ОМ ПрО [16-20].

1 Количественные показатели для оценки ОМ ПрО

В период информационного Общества 4.0 стала возможной передача больших объёмов формализованной информации, что способствовало применению ИИ в качестве посредника между ПАО и пользователем.

В концепции Общества 5.0 адресатом может быть не только пользователь, но и ИИ. В данной связи актуализируются формализация информации о ПрО и антропомерность представления информации при проектировании интерфейса между ПАО и пользователем [15]. Понятие антропомерности интерфейса предполагает комплексный учёт трёхуровневой структуры антропологического знания: физического уровня (удобство технических устройств), социокультурного уровня (учёт норм, обычаев, социальных ритмов) и философского уровня (воодушевлённость техническими возможностями для свободы творчества). Функция антропомерности – величина качественная. В [16] введены количественные показатели таких характеристик ОМ ПрО, как её вербальная и системная понятность, в т.ч. среднее время понимания актором терминов ПрО и связей между ними. В данной работе предложена модификация указанных параметров применительно к возникающим в ОМ ПрО ошибкам первого и второго рода [21].

ОМ ПрО можно представить в виде помеченного графа G = (V, E, C), где V, E и C есть множества вершин графа, дуг, а также меток вершин C_V и дуг C_E, соответственно; $C=C_V\cup C_E$; $\left|V\right|=n$, $\left|E\right|=m$, $\left|C_V\right|=n$ (если нет повторений понятий), $\left|C_E\right|\in \left[\mathrm{1,}m\right]$. Число терминов в ОМ формально определено как сумма $N=\left|C_V\right|+\left|C_E\right|$: $N\in \left[n+\mathrm{1,}n+m\right]$. В случае, когда в графе G не все термины и/или связи между ними понятны актору, на него производится деструктивное информационное воздействие. Т.е. воздействие, связанное с оперированием на основе неверного представления о ПрО, возникающего ввиду неполного или недостоверного понимания её ОМ. Вербальная понятность ОМ определена коэффициентом [16]:

$k_W=\frac{N-N_{us}}{N}$ (1)

где N_us – множество терминов, допустимых в ОМ, но непонятных адресату. Для разъяснения этих терминов требуется сформировать N_us матриц вида $A_S=\left(a_{ijs}\right)$, где $a_{ijs}=1$, если j-я операция применяется для трактовки i-го термина, иначе $a_{ijs}=0$. Среднее время понимания адресатом N_us терминов определяется согласно формуле [16]:

$T=\left({\sum }_{s=1}^{N_{us}}{\sum }_{i=1}^k{\sum }_{j=1}^l{a}_{ijs}\cdot {\tau }_j\right)\le T_{\max }$ (2)

При этом значение Т не должно превышать заданного допустимого граничного значения T_max. Системная понятность ОМ (а также истинность или ложность связей между понятиями) определяется в [16] по аналогии с (1):

$k_{SW}=\frac{m-m_{us}}{m}$ (3)

где m_us – множество связей в ОМ, непонятных адресату или неверно по́нятых адресатом. Для оценки времени выяснения значений связей, непонятных адресату, можно воспользоваться формулой подобной (2).

Согласно [21] выделяют ошибки первого и второго рода. Ошибка первого рода – когда нулевая гипотеза верна, но по статистическому критерию отвергнута, признана ошибочной, произошло ложное срабатывание. Ошибка второго рода – когда нулевая гипотеза не верна, но согласно статистическому критерию ошибочно признана правильной.

В качестве нулевой гипотезы принимается отсутствие внутри ПрО события, значимого для пользователя (далее – События). Ошибкой первого рода будет то, что ОМ сигнализирует актору о наличии в ПрО События, которое на самом деле отсутствует. Ошибка второго рода – когда ОМ не идентифицирует в ПрО наличие События, которое в ней на самом деле присутствует. Можно модифицировать критерии (1) и (3) под данное определение События и ОМ ПрО и определить на основе критерия (1) вербальную понятность ОМ для адресата относительно ошибок первого и второго рода согласно двум критериям:

$k_W^{\left(1\right)}=\frac{N-N_{us}^{\left(1\right)}}{N}$ (4)

$k_W^{\left(2\right)}=\frac{N-N_{us}^{\left(2\right)}}{N}$ (5)

где N – то же, что и в (1), $N_{us}^{\left(1\right)}$ и $N_{us}^{\left(2\right)}$ – множества терминов, допустимых в ОМ, но (4) –неверно по́нятых и (5) – непонятных адресату, соответственно.

Системную понятность ОМ относительно ошибок первого и второго рода на основе критерия (3) можно определить так:

$k_{SW}^{\left(1\right)}=\frac{m-m_{us}^{\left(1\right)}}{m}$ (6)

$k_{SW}^{\left(2\right)}=\frac{m-m_{us}^{\left(2\right)}}{m}$ (7)

где переменная m определена по аналогии с (3), $m_{us}^{\left(1\right)}$ – множество связей в ОМ неверно по́нятых адресатом, $m_{us}^{\left(2\right)}$ – множество связей в ОМ, которые адресат не понял или не воспринял. Для оценки времени уточнения значения $m_{us}^{\left(1\right)}$ в (6) формула (2) модифицируется в следующий вид:

$T^{\left(1\right)}=\left({\sum }_{s=1}^{N_{us}^{\left(1\right)}}{\sum }_{i=1}^k{\sum }_{j=1}^l{a}_{ijs}^{\left(1\right)}\cdot {\tau }_j^{\left(1\right)}\right)\le T_{\max }^{\left(1\right)}$ (8)

а для оценки времени выяснения $m_{us}^{\left(2\right)}$ в (7) формула (2) представима как:

$T^{\left(2\right)}=\left({\sum }_{s=1}^{N_{us}^{\left(2\right)}}{\sum }_{i=1}^k{\sum }_{j=1}^l{a}_{ijs}^{\left(2\right)}\cdot {\tau }_j^{\left(2\right)}\right)\le T_{\max }^{\left(2\right)}$ (9)

В (8) параметр $N_{us}^{\left(1\right)}$ определён как в (4), $a_{ijs}^{\left(1\right)}=1$, если j-я операция применяется для коррекции неверной трактовки i-го термина, иначе $a_{ijs}^{\left(1\right)}=0$, ${\tau }_j^{\left(1\right)}$ – время, отведённое на применение j-й операции; в (9) параметр $N_{us}^{\left(2\right)}$ определён как в (5), $a_{ijs}^{\left(2\right)}=1$, если j-я операция применяется для объяснения адресату i-го термина, иначе $a_{ijs}^{\left(2\right)}=0$, ${\tau }_j^{\left(2\right)}$ – время, отведённое на применение j-й операции.

В результате можно получить количественные показатели, которые позволяют оценить характеристики ОМ ПрО относительно ошибок адресата первого и второго рода:

• вербальную понятность - показатели (4) и (5);
• системную понятность - показатели (6) и (7);
• время выяснения множества связей в ОМ - показатели (8) и (9).

В качестве адресатов могут быть пользователь и ИИ. Предполагается, что адресат формирует собственный образ ПрО как ОМ. Получаются две ОМ ПрО: для ИИ, которая представлена как помеченный граф G_AI; для пользователя, представленная в виде помеченного графа G_u. Указанные графы G_AI и G_u представимы по аналогии с описанным графом G.

2 Метод оценки антропомерности интерфейса ПАО

Использование показателей (4) – (7) позволяет количественно оценить возможность ошибок адресата первого и второго рода при идентификации наличия События в ПрО путём взаимодействия с интерфейсом ПАО.

В ситуации, когда адресатом является ИИ, требуется, чтобы внутри ИИ была сформирована формальная ОМ (ФормОМ) ПрО в виде помеченного графа G_AI. Для указанной модели оценка антропомерности заключается в вычислении показателей, количественно характеризующих возможность совершения и/или коррекции ошибок первого и второго рода.

Пусть для (4) – (9) экспертами заданы пороговые значения: ${\overline{k}}_W^{\left(1\right)}$, ${\overline{k}}_W^{\left(2\right)}$, ${\overline{k}}_{SW}^{\left(1\right)}$, ${\overline{k}}_{SW}^{\left(2\right)}$, ${\overline{T}}_{\max }^{\left(1\right)}$ и ${\overline{T}}_{\max }^{\left(2\right)}$, соответственно. Смысл их введения заключается в формализации процесса валидации интерфейса ПАО. Можно определить два множества показателей. Первое включает параметры (4), (6), (8), характеризующие наличие в терминах и связях G_AI ошибок первого рода, идентификация и коррекция которых требует времени $T^{\left(1\right)}$. Второе множество включает параметры (5), (7), (9). Они характеризуют наличие в терминах и связях G_AI ошибок второго рода, исправление которых требует времени $T^{\left(2\right)}$. Если хотя бы один показатель из заданного множества превышает пороговое значение, то интерфейс ПАО считается не антропомерным. В противном случае интерфейс ПАО считается антропомерным. Формально указанное правило задаётся при использовании пороговых функций вида:

$\psi \left(a,b\right)=\left\{\begin{array}{cc}0:& a<b\\ 1:& a\ge b\end{array}\right.$,

где a – значение одного из показателей (4) – (9), b – его пороговое значение. Если функция $\psi \left(a,b\right)$ равна 0, то показатель, тестируемый при её использовании, не превышает порогового значения; иначе – превышает. Можно ввести критерии:

$p_1\left(G_{AI},{\overline{k}}_W^{\left(1\right)},{\overline{k}}_{SW}^{\left(1\right)},{\overline{T}}_{\max }^{\left(1\right)}\right)=\max \left(\psi \left(k_W^{\left(1\right)},{\overline{k}}_W^{\left(1\right)}\right),\psi \left(k_{SW}^{\left(1\right)},{\overline{k}}_{SW}^{\left(1\right)}\right),\psi \left(T^{\left(1\right)},{\overline{T}}_{\max }^{\left(1\right)}\right)\right)$ (10)

$p_2\left(G_{AI},{\overline{k}}_W^{\left(2\right)},{\overline{k}}_{SW}^{\left(2\right)},{\overline{T}}_{\max }^{\left(2\right)}\right)=\max \left(\psi \left(k_W^{\left(2\right)},{\overline{k}}_W^{\left(2\right)}\right),\psi \left(k_{SW}^{\left(2\right)},{\overline{k}}_{SW}^{\left(2\right)}\right),\psi \left(T^{\left(2\right)},{\overline{T}}_{\max }^{\left(2\right)}\right)\right)$ (11)

где $k_W^{\left(1\right)}$, $k_{SW}^{\left(1\right)}$ и $T^{\left(1\right)}$ вычислены на основе параметров графа G_AI согласно (4), (6) и (8), соответственно; $k_W^{\left(2\right)}$, $k_{SW}^{\left(2\right)}$ и $T^{\left(2\right)}$ вычислены на основе параметров графа G_AI согласно (5), (7), (9).

Имеет место утверждение: для идентификации критического количества ошибок первого рода в терминах и связях графа G_AI, время коррекции которых не превышает ${\overline{T}}_{\max }^{\left(1\right)}$, требуется, чтобы значение критерия (10) было равно единице; для идентификации критического количества ошибок второго рода в терминах и связях графа G_AI, время коррекции которых не превышает ${\overline{T}}_{\max }^{\left(2\right)}$, требуется, чтобы значение критерия (11) было равно единице.

Критерии, аналогичные (10) и (11), вводятся для случая, когда адресатом при взаимодействии с интерфейсом ПАО является пользователь. При этом интерфейсная часть ПАО формируется при использовании ИИ, для которого выполняются следующие условия:

$p_1\left(G_{AI},{\overline{k}}_W^{\left(1\right)},{\overline{k}}_{SW}^{\left(1\right)},{\overline{T}}_{\max }^{\left(1\right)}\right)=0$ и $p_2\left(G_{AI},{\overline{k}}_W^{\left(2\right)},{\overline{k}}_{SW}^{\left(2\right)},{\overline{T}}_{\max }^{\left(2\right)}\right)=0$. (12)

Т.е. ПрО для пользователя является ОМ, отображаемая при использовании графа G_AI, а пользователь строит свою ОМ, заданную графом G_u. На основе указанного графа вычисляются показатели (4) – (9), для которых эксперты определяют свои пороговые значения ${\tilde{k}}_W^{\left(1\right)}$, ${\tilde{k}}_W^{\left(2\right)}$, ${\tilde{k}}_{SW}^{\left(1\right)}$, ${\tilde{k}}_{SW}^{\left(2\right)}$, ${\tilde{T}}_{\max }^{\left(1\right)}$ и ${\tilde{T}}_{\max }^{\left(2\right)}$, соответственно, а также критерии (10) и (11): $p_1\left(G_u,{\tilde{k}}_W^{\left(1\right)},{\tilde{k}}_{SW}^{\left(1\right)},{\tilde{T}}_{\max }^{\left(1\right)}\right)$ и $p_2\left(G_u,{\tilde{k}}_W^{\left(2\right)},{\tilde{k}}_{SW}^{\left(2\right)},{\tilde{T}}_{\max }^{\left(2\right)}\right)$.

На основе приведённого утверждения, показателей (4) – (9) и критериев (10) и (11) предложен метод оценки антропомерности интерфейса ПАО (далее – Метод), который включает восемь этапов.

Этап 1. Синтез размеченного графа G_AI, соответствующего заданной ПрО.

Этап 2. Вычисление показателей (4) – (9) для G_AI.

Этап 3. Задание экспертами пороговых значений показателей (4) – (9), ${\overline{k}}_W^{\left(1\right)}$, ${\overline{k}}_W^{\left(2\right)}$, ${\overline{k}}_{SW}^{\left(1\right)}$, ${\overline{k}}_{SW}^{\left(2\right)}$, ${\overline{T}}_{\max }^{\left(1\right)}$ и ${\overline{T}}_{\max }^{\left(2\right)}$, соответственно, для графа G_AI.

Этап 4. Вычисление критериев (10) и (11) на основе графа G_AI и пороговых значений, заданных на этапе 3, для которых проверяется условие (12); в случае не выполнения данного условия осуществляются переход к этапу 1 и редукция количества вершин и/или дуг G_AI пока условие (12) не будет выполнено.

Этап 5. Синтез размеченного графа G_u на основе полученного графа G_AI .

Этап 6. Вычисление показателей (4) – (9) для G_u.

Этап 7. Задание экспертами пороговых значений показателей (4) – (9), ${\tilde{k}}_W^{\left(1\right)}$, ${\tilde{k}}_W^{\left(2\right)}$, ${\tilde{k}}_{SW}^{\left(1\right)}$, ${\tilde{k}}_{SW}^{\left(2\right)}$, ${\tilde{T}}_{\max }^{\left(1\right)}$ и ${\tilde{T}}_{\max }^{\left(2\right)}$ для графа G_u.

Этап 8. Вычисление критериев (10) и (11) на основе графа G_u и пороговых значений, заданных на этапе 7.

Замечание 1. В случае, когда на этапе 8 критерии $p_1\left(G_u,{\tilde{k}}_W^{\left(1\right)},{\tilde{k}}_{SW}^{\left(1\right)},{\tilde{T}}_{\max }^{\left(1\right)}\right)=0$ и $p_2\left(G_u,{\tilde{k}}_W^{\left(2\right)},{\tilde{k}}_{SW}^{\left(2\right)},{\tilde{T}}_{\max }^{\left(2\right)}\right)=0$, интерфейс ПАО считается антропомерным для пользователя.

Замечание 2. Интерфейс ПАО считается не антропомерным в случае, когда на этапе 4 не выполняется условие (12) либо не выполняется условие, указанное в замечании 1.

3 Анализ результатов

Метод позволяет оценить антропомерность интерфейса ПАО, составной частью которого является ИИ. Ведущая роль при оценке антропомерности интерфейса принадлежит экспертам, которые задают пороговые значения для показателей (4) – (9). Указанные показатели позволяют оценить наличие или отсутствие в интерфейсе ПАО предпосылок для возникновения ошибок первого и второго рода, которые приводят к негативному информационному воздействию на пользователя.

На этапе 1 происходит формирование ФормОМ ПрО для ИИ. Граф G_AI может быть сформирован в соответствии с методом, изложенным в [1]. Важным является то, что в G_AI понятия и связи между ними выражены, как правило, в терминах формальных грамматик. Такая форма представления ОМ ПрО больше адаптирована под алгоритмы ИИ, чем под пользователя-человека.

На этапе 2 осуществляется количественная оценка того, насколько адекватно граф G_AI отображает заданную ПрО. Показатели (4) – (9) позволяют экспертам выявить слабые места ФормОМ ПрО, представленной в виде графа G_AI. Во-первых, какого рода ошибки могут быть потенциально допущены ИИ; во-вторых, где кроется источник ошибок - в вербальной или системной понятности ФормОМ, либо во времени, которое требуется для уточнения и/или выявления тех или иных понятий.

На этапе 3 эксперты принимают решение: какие значения показателей (4) – (9) считать допустимыми для ФормОМ ПрО, представленной в виде графа G_AI.

На этапе 4 предполагается, что ПрО относительно консервативна: в противном случае потребуется обновление графа G_AI с целью отслеживания его соответствия ПрО и, как следствие, обновление показателей (4) – (9). При увеличении множества вершин и дуг G_AI возрастает вероятность превышения показателями пороговых значений, заданных экспертами, т.е. не выполнения условия (12). В случае такого превышения возможны два варианта. Первый – редукция множества состояний и/или множества дуг G_AI. Второй – увеличение экспертами пороговых значений показателей (4) – (9), вычисленных для G_AI. Первый вариант влечёт за собой переложение на пользователя труда по идентификации понятий ПрО и связей между ними; второй - увеличение вероятности неверной идентификации указанных понятий и связей между ними и вероятности аберрированного представления пользователя о ПрО.

На этапе 5 ПрО представлена графом G_AI, который создан и оценён экспертами на этапах 1 – 4. На основе G_AI создаётся размеченный граф G_u, множество состояний которого и связи между ними адаптированы для пользователя. Граф G_AI называется ПрО, формализованной для пользователя. Степень формализации может зависеть от того, насколько пользователь является специалистом в заданной ПрО.

На этапе 6 производится количественная оценка того, насколько граф G_u отображает понятия и связи между ними, которые применяются ИИ для отображения ПрО. Количественно оценивается возможность совершения пользователем ошибок первого и второго рода при восприятии понятий формализованной ПрО и связей между ними.

Этап 7 предполагает оценку экспертами порогового уровня значений показателей (4) – (9), вычисленных для G_u. Экспертами выявляются слабые места при оценке пользователем ФормОМ ПрО: какого рода ошибки он может совершить и какова вероятная природа данных ошибок – непонятность ФормОМ или недопустимое время, требуемое для уточнения и/или выявления понятий ФормОМ.

На этапе 8 производится качественная оценка антропомерности интерфейса ПАО для ПрО, формализованной для пользователя.

Разработка предложенного метода актуальна в информационном обществе в силу того, что доля населения, вовлечённого в процессы обработки компьютерной информации, продолжает расти. Производители и заказчики заинтересованы в антропомерном качестве интерфейсов ПАО.

Примеры неантропомерности интерфейсов.

Негативные для пользователя информационные эффекты наблюдались в работе систем и приложений социального мониторинга режима самоизоляции во время пандемии COVID-19. Иногда заболевшим людям требовалось отвечать на запросы систем в неантропомерное с биологических позиций время: ночью, без учётов природных биоритмов и самочувствия пользователя, а за несоблюдение правил в отношении пользователей ПАО предусматривались различные санкции (штрафы, визиты полиции).

Негативные информационные воздействия на пользователя через интерфейсы ПАО могут наблюдаться в бизнесе. Создатели делового ПАО порой не учитывают и не задают в качестве значимых для его работы такие параметры, как служебное время подразделения либо отдельных должностных лиц, ограничиваясь только системным временем. Указанные недостатки ПАО являются причинами неисполнения задач в срок, ведут к штрафным санкциям, к потере деловой репутации и др.

Негативное информационное воздействие можно найти в интерфейсах электронных издательских систем. Универсальный и транснациональный характер ПАО не учитывает национальные и языковые различия. В то время как стандарты оформления текста, действующие в той или иной культуре или сфере, в различных языках отличаются. Пользователи сталкиваются с негативным информационным воздействием от несоблюдения социокультурной антропомерности, связанной с учётом языковых особенностей.

Предлагается различать вредоносное ПАО, препятствующее нормальному использованию программного обеспечения, в т.ч. несущее физический и информационный вред другому ПАО, и деструктивное ПАО, деморализующее естественного актора, способное привести человека к мысли о тщетности творческих усилий, невозможности полностью воплотить свой замысел. Введение критериев антропомерности в систему оценки нового ПАО может способствовать повышению качества процессов цифровизации в Обществе 5.0.

Заключение

В работе предложен метод, позволяющий оценить степень антропомерности интерфейса ПАО для ИИ и для пользователя. Определены количественные показатели и качественные критерии, позволяющие формализовать отдельные этапы процесса проектирования интерфейсов, антропомерных для пользователя и основанных на ФормОМ. Данный метод позволяет оценить антропомерность спроектированного для пользователя интерфейса ПАО. Модифицированные показатели позволяют снизить вероятность совершения ошибок первого и второго рода при взаимодействии с интерфейсом ПАО, а также оценить время, требуемое для выяснения связей между понятиями ПрО для ИИ и для пользователей.

Использование предложенных в работе характеристик антропомерности ПАО как критериев качества цифровизации может применяться в ходе проектирования современного ПАО. Изложенные результаты позволяют определить некоторые направления и перспективы совершенствования процесса проектирования интерфейсов, оценить и разграничить роли человека и алгоритмов ИИ как адресатов в процессе проектирования интерфейсов ПАО для заданной ПрО.

作者简介

Sergey Shalagin

Kazan national research technical university named after A.N. Tupolev – KAI

编辑信件的主要联系方式.
Email: sshalagin@mail.ru

Doctor of Technical Science, Professor (Computer Systems department)

俄罗斯联邦, Kazan

Gulnara Shalagina

Kazan national research technological university

Email: galanova@rambler.ru

candidate of philosophical sciences, associate professor (Department of Philosophy of Science and Social Work)

俄罗斯联邦, Kazan

参考

补充文件