Полное описание

Власов, Андрей Игоревич. Информационные испытания компьютерной личности, решающей нестандартную физическую задачу / А. И. Власов, А. Н. Орехов, Л. В. Тетик. - DOI 10.18127/j19998554-202401-04. - Текст : непосредственный // Нейрокомпьютеры: разработка, применение : международный научно-технический журнал. - 2024. - Том 26, N 1. - С. 32-44. - Библиогр. в конце ст. - ISSN 1999-8554.

ГРНТИ	УДК
28.23	004.8

Рубрики:
Искусственный интеллект

Кл.слова (ненормированные): информационные испытания -- решение нестандартных задач -- интерферирующие сообщения -- когнитивные искажения -- системы компьютерной личности
Аннотация: Постановка проблемы. Системы компьютерной личности базируются на номотетических моделях психики человека и реализуют базовые принципы познавательных процессов, личностных, эмоциональных и поведенческих проявлений. Номотетические модели психики предполагают возможность осмысления любых внешних и внутренних сообщений. Вследствие этого методика информационных испытаний компьютерной личности должна учитывать особенности детектирования когнитивных искажений. Возникает проблема определения условий, в которых внешние и внутренние сообщения сделают поведение системы неадекватным, в частности, порождающим когнитивные искажения. Поэтому необходимо определить алгоритмы, наиболее устойчивые к таким искажениям. Цель. Разработать методику информационных испытаний компьютерной личности в условиях поступления избыточной или интерферирующей информации (сообщений), а также произвести оценку возможностей компьютерной личности решать нестандартные задачи в данных условиях. Результаты. Рассмотрены методики и результаты информационных испытаний компьютерной системы «АлНикОр» - первой в мире компьютерной личности, решающей нестандартные задачи. Проверена способность системы решать задачи в условиях поступления избыточной, а также интерферирующей информации. Показано, что сообщения, содержащие интерферирующую информацию, создают условия для появления ошибок, в частности, когнитивных искажений. Доказано, что такие ошибки препятствуют решению задачи, либо существенно, часто экспоненциально, увеличивают время решения. Подтверждена гипотеза исследования: рост времени решения с увеличением количества слов и/или количества смыслов аппроксимируется полиномом первой степени. Практическая значимость. С помощью разработанной методики информационных испытаний компьютерной личности можно определять ее характеристики в условиях внешних, поступивших на вход системы, и внутренних, сгенерированных самой системой воздействий, деструктивных относительно процесса решения нестандартной задачи. Использование разработанной методики позволяет более обосновано интерпретировать признаки возможных грубых ошибок (галлюцинаций) как в процессе обучения, так и в процессе использования больших языковых моделей. Это ускоряет и удешевляет разработку компьютерных систем на основе больших языковых моделей, а также гибридных систем искусственного интеллекта. Демонстрация возможностей алгоритмов компьютерной личности эффективно отстраиваться от избыточной и интерферирующей информации дает возможность разработчикам гибридных систем использовать эти алгоритмы в качестве необходимых компонентов верхнего уровня регуляции поведения при решении задач.
Доп. точки доступа:
Орехов, Александр Николаевич
Тетик, Лилия Владимировна


Нет сведений об экземплярах
Держатели документа:
Государственная публичная научно-техническая библиотека России : 123298, г. Москва, ул. 3-я Хорошевская, д. 17 (Шифр в БД-источнике (KATBW): -451660-378391)

Шифр в сводном ЭК: 3745d155177b6de70cf4f6718ac61867

Заказать
Заказ фрагмента документа ₽