• ВХОД

    •  

    Полное описание


     Власов, Андрей Игоревич. Информационные испытания компьютерной личности, решающей нестандартную физическую задачу / А. И. Власов, А. Н. Орехов, Л. В. Тетик. - DOI 10.18127/j19998554-202401-04. - Текст : непосредственный // Нейрокомпьютеры: разработка, применение : международный научно-технический журнал. - 2024. - Том 26, N 1. - С. 32-44. - Библиогр. в конце ст. - ISSN 1999-8554.
    (Шифр в БД У2414/2024/26/1)
    ГРНТИ УДК
    28.23004.8
    РУБ ИИ
    06.02

    Рубрики:
    Искусственный интеллект

    Кл.слова (ненормированные): информационные испытания -- решение нестандартных задач -- интерферирующие сообщения -- когнитивные искажения -- системы компьютерной личности
    Аннотация: Постановка проблемы. Системы компьютерной личности базируются на номотетических моделях психики человека и реализуют базовые принципы познавательных процессов, личностных, эмоциональных и поведенческих проявлений. Номотетические модели психики предполагают возможность осмысления любых внешних и внутренних сообщений. Вследствие этого методика информационных испытаний компьютерной личности должна учитывать особенности детектирования когнитивных искажений. Возникает проблема определения условий, в которых внешние и внутренние сообщения сделают поведение системы неадекватным, в частности, порождающим когнитивные искажения. Поэтому необходимо определить алгоритмы, наиболее устойчивые к таким искажениям. Цель. Разработать методику информационных испытаний компьютерной личности в условиях поступления избыточной или интерферирующей информации (сообщений), а также произвести оценку возможностей компьютерной личности решать нестандартные задачи в данных условиях. Результаты. Рассмотрены методики и результаты информационных испытаний компьютерной системы «АлНикОр» - первой в мире компьютерной личности, решающей нестандартные задачи. Проверена способность системы решать задачи в условиях поступления избыточной, а также интерферирующей информации. Показано, что сообщения, содержащие интерферирующую информацию, создают условия для появления ошибок, в частности, когнитивных искажений. Доказано, что такие ошибки препятствуют решению задачи, либо существенно, часто экспоненциально, увеличивают время решения. Подтверждена гипотеза исследования: рост времени решения с увеличением количества слов и/или количества смыслов аппроксимируется полиномом первой степени. Практическая значимость. С помощью разработанной методики информационных испытаний компьютерной личности можно определять ее характеристики в условиях внешних, поступивших на вход системы, и внутренних, сгенерированных самой системой воздействий, деструктивных относительно процесса решения нестандартной задачи. Использование разработанной методики позволяет более обосновано интерпретировать признаки возможных грубых ошибок (галлюцинаций) как в процессе обучения, так и в процессе использования больших языковых моделей. Это ускоряет и удешевляет разработку компьютерных систем на основе больших языковых моделей, а также гибридных систем искусственного интеллекта. Демонстрация возможностей алгоритмов компьютерной личности эффективно отстраиваться от избыточной и интерферирующей информации дает возможность разработчикам гибридных систем использовать эти алгоритмы в качестве необходимых компонентов верхнего уровня регуляции поведения при решении задач.
    Доп. точки доступа:
    Орехов, Александр Николаевич
    Тетик, Лилия Владимировна

    Экз-ры полностью У2414/2024/26/1
    Имеются экземпляры в отделах: всего 2 : ПНТ (1), ХРЦ (1)
    Свободны: ПНТ (1), ХРЦ (1)
    Переход по DOI



    Заказ фрагмента документа ₽