Полное описание
> Маджумдер, Мадина Шамсуловна. Причины искажения контента: анализ и классификация галлюцинаций в больших языковых моделях GPT / М. Ш. Маджумдер, Д. Д. Бегунова. - DOI 10.14357/20718594240303. - Текст : непосредственный // Искусственный интеллект и принятие решений. - 2024. - N 3. - С. 32-41. - Библиогр. в конце ст. - ISSN 2071-8594.
| ГРНТИ | УДК | |
| 28.23 | 004.8 | |
| 28.23.37 | 004.032.26 | |
| 28.23.11 | 004.83 |
Рубрики:
Искусственный интеллект
Нейронные сети
Кл.слова (ненормированные): галлюцинации ии-систем -- gpt -- большие языковые модели -- искусственный интеллект
Аннотация: В статье исследуются галлюцинации, возникающие в двух версиях большой языковой модели GPT -GPT-3.5-turbo и GPT-4. Основная цель работы заключается в изучении возможных источников и классификации галлюцинаций, а также в разработке стратегий для их решения. Выявлены проблемы, которые могут привести к генерации контента, не соответствующего фактологическим данным и вводящего пользователей в заблуждение. Результаты исследования имеют практическую значимость для разработчиков и пользователей языковых моделей, ввиду предоставленных подходов, повышающих качество и достоверность генерируемого контента.
Доп. точки доступа:
Бегунова, Д.Д.
>
Нет сведений об экземплярах
Держатели документа:
Государственная публичная научно-техническая библиотека России : 123298, г. Москва, ул. 3-я Хорошевская, д. 17 (Шифр в БД-источнике (KATBW): -834152-249375)>
Шифр в сводном ЭК: cfc0288d1e1fedc77156e50a866a1db1
Маджумдер, Мадина Шамсуловна. Причины искажения контента: анализ и классификация галлюцинаций в больших языковых моделях GPT / М. Ш. Маджумдер, Д. Д. Бегунова. - Текст : непосредственный // Искусственный интеллект и принятие решений / "Информатика и управление", федеральный исследовательский центр (Москва). - Москва. - 2024. - N 3. - с. 32-41Научно-техническая информация. Серия 1, Организация и методика информационной работы. - Журнал, 2023г. № 7. - Текст : непосредственный.Научные и технические библиотеки. - Журнал, 2024г. № 4. - Текст : непосредственный.Степанов, Вадим Константинович. Возможности применения языковой модели искусственного интеллекта ChatGPT-3.5 в библиотечно-библиографической деятельности / В. К. Степанов, М. Ш. Маджумдер, Д. Д. Бегунова. - Текст : непосредственный // Научно-техническая информация. Серия 1, Организация и методика информационной работы : ежемесячный научно-технический сборник / Всероссийский институт научной и технической информации (Москва). - Москва : ВИНИТИ РАН, 2023. - N 7.- С.11-21Степанов, Вадим Константинович. Методика применения большой языковой модели ChatGPT в библиотечно-библиографической деятельности / В. К. Степанов, М. Ш. Маджумдер, Д. Д. Бегунова. - Текст : непосредственный + Текст : электронный // Научные и технические библиотеки : рецензируемый научно-практический журнал / Государственная публичная научно-техническая библиотека России. - Москва : ГПНТБ России, 2024. - N 4.- С.86-108
Искусственный интеллект и принятие решений / "Информатика и управление", федеральный исследовательский центр (Москва). - Журнал выходит с 2008г. - Текст : непосредственный.Маджумдер, Мадина Шамсуловна. Причины искажения контента: анализ и классификация галлюцинаций в больших языковых моделях GPT / М. Ш. Маджумдер, Д. Д. Бегунова. - Текст : непосредственный // Искусственный интеллект и принятие решений / "Информатика и управление", федеральный исследовательский центр (Москва). - Москва. - 2024. - N 3. - с. 32-41
Мурынин А.Б. Принципы оптимизации информативных признаков в задаче автоматического распознавания лица человека компьютерной системой / А. Б. Мурынин, В. И. Цурков, 1997. - 34 с.ил. - Текст : непосредственный.Яшкин Ю.Н. Конструирование оптических приборов. Оптико-механические сканирующие устройства / Ю. Н. Яшкин, А. А. Цуканов, 1989. - 49 c. - Текст : непосредственный.Чернавский Д.С. Синергетика и информация / Д. С. Чернавский, 1990. - 46 c. - Текст : непосредственный.Венда В.Ф. Системы гибридного интеллекта : Эволюция, психология, информатика / В.Ф.Венда, 1990. - 447 c. - Текст : непосредственный.Клещев А.С. Экспертная система, моделирующая процесс оптимизации программ. Обработка знаний : препринт / А. С. Клещев, М. А. Князева, 1990. - 44 с. - Текст : непосредственный.Оптические процессоры для обработки изображений и сигналов : сборник научных трудов / Физико-технический ин-т им. А. Ф. Иоффе (Ленинград), 1989. - 170 с. - Текст : непосредственный.Expert system as a maze / O. A. Khrustalev, P. K. Silaev, O. D. Timofeevskaya, E. N. Tyurin, 1990. - 10 p. - Текст : непосредственный.Потапова О.Ф. Создание экспертных систем на базе ПЭВМ ЕС1840. Операторы языка пролог / О. Ф. Потапова, И. М. Птаховская, 1990. - 20 с. - Текст : непосредственный.Храмцов С.В. Система автоматизированного синтеза тестов для генератора экспертных систем СИНАП / С. В. Храмцов, 1990. - 28 с. - Текст : непосредственный.Digital image processing and analysis / Ed.:R.Chelappa, A.A.Sawchuk. Vol. 1 : Digital image processing, 1985. - X,721 p. p. - Текст : непосредственный.Artificial neural networks : сборник научных трудов / Ed. N. Morgan, 1990. - VIII,130 p. p. - Текст : непосредственный.Vemuri V.R. Artificial neural networks:concepts and control applications / V. R. Vemuri, 1992. - 509 p. - Текст : непосредственный.Artificial neural networks:concepts and theory / Сост.Compl.: P. Mehra, B. W. Wah, 1992. - XI,667 p. p. - Текст : непосредственный.Nearest neighbor (NN) norms:NN patern classification techniques / Ed. B. V. Dasarathy, 1991. - XII,447 p. p. - Текст : непосредственный.Innovative applications of artificial intelligence 3 : материалы временных коллективов / Ed.: R. G. Smith, A. C. Scott, 1991. - 362 p. - Текст : непосредственный.Воронцов К.В. Локальные базисы в алгебраическом подходе к проблеме распознавания : специальность 01.01.09 "Дискретная математика и математическая кибернетика" : автореферат диссертации на соискание ученой степени канд. физ.-мат. наук / К. В. Воронцов, 1999. - 20 с. - Текст : непосредственный.Скиданов Р.В. Оптические методы формирования поля направлений и поля пространственных частот : специальность 01.04.01 "Приборы и методы экспериментальной физики" : автореферат диссертации на соискание ученой степени канд.физ.-мат.наук / Р. В. Скиданов, 1998. - 15 с. - Текст : непосредственный.Pattern recognition and image analysis / D. Hutchison, J. C. Mitchell, F. Mattern [et al.], 2009 r=on-line. - Текст : электронный.Multiple classifier systems / SpringerLink (Online service), 2009 r=on-line. - Текст : электронный.Combinatorial pattern matching / D. Hutchison, D. Terzopoulos, M. Sudan [et al.], 2009 r=on-line. - Текст : электронный.
Показать все результатыВенда В.Ф. Системы гибридного интеллекта : Эволюция, психология, информатика / В.Ф.Венда, 1990. - 447 c. - Текст : непосредственный.Artificial neural networks : сборник научных трудов / Ed. N. Morgan, 1990. - VIII,130 p. p. - Текст : непосредственный.Vemuri V.R. Artificial neural networks:concepts and control applications / V. R. Vemuri, 1992. - 509 p. - Текст : непосредственный.Artificial neural networks:concepts and theory / Сост.Compl.: P. Mehra, B. W. Wah, 1992. - XI,667 p. p. - Текст : непосредственный.Tomboulian S. Introduction to a system for implementing neural net connections on SIMD architectures : монография / S. Tomboulian, S.a. - 13 p. - Текст : непосредственный.Осовский С. Нейронные сети для обработки информации / С. Осовский, 2004. - 343 с. - Текст : непосредственный.Дулин С.К. Моделирования сходства элементов базы знаний / С. К. Дулин, И. А. Киселев, 1994. - 23 c. - Текст : непосредственный.Frederichs G. Kunstliche Intelligenz im Hartetest der kommerziellen Praxis / G. Frederichs, M. Rader, 1993. - 108 S. - Текст : непосредственный.Гордеев Л.С. Применение искусственных нейронных сетей в задачах химической технологии / Л. С. Гордеев, М. Б. Глебов, 1998. - 120 с. - Текст : непосредственный.Лузянина Т.В. Synchronization in an oscillator neural network model with time delayed coupling : препринт / Т. В. Лузянина, 1992. - 20 с. - Текст : непосредственный.Барцев С.И. Сравнительные свойства адаптивных сетей с полярными и неполярными синапсами / С. И. Барцев, Ю. П. Ланкин, 1993. - 26 с . - Текст : непосредственный.Вихтенко Э.М. Элементы теории искусственного интеллекта / Э. М. Вихтенко, 2006. - 94 с. - Текст : непосредственный.Bernatzki A. Geometrische Interpretation neuronaler Netze / A. Bernatzki, 1999. - 123 S. - Текст : непосредственный.Осипов Г.С. Лекции по искусственному интеллекту / Г. С. Осипов, 2013. - 267 с. - Текст : непосредственный.Дворянкин А.М. Искусственный интеллект. Моделирование рассуждений и формальные системы / А. М. Дворянкин, М. Б. Сипливая, И. Г. Жукова, 2003. - 140 с. - Текст : непосредственный.Волгин Л.И. Комплементарная алгебра и предикатная алгебра выбора / Л. И. Волгин, 1996. - 68 c. - Текст : непосредственный.Волгин Л.И. Векторная комплементарная алгебра и ее применения / Л. И. Волгин, 1996. - 50 c. - Текст : непосредственный.Тарасов А.М. Математическое моделирование, сети Петри и их использование при описании функционирования нейронных сетей в ЭВМ, робототехники : препринт / А. М. Тарасов, В. В. Подлубный, 1995. - 21 c. - Текст : непосредственный.Дулесов А.С. Нейронные сети и нейрокомпьютеры в интеллектуальных информационных системах / А. С. Дулесов, 2005. - 114 с. - Текст : непосредственный.Шибзухов З.М. Конструктивные методы обучения ЕП-нейронных сетей : монография / З. М. Шибзухов, 2004. - 123 с. - Текст : непосредственный.
Показать все результатыВенда В.Ф. Системы гибридного интеллекта : Эволюция, психология, информатика / В.Ф.Венда, 1990. - 447 c. - Текст : непосредственный.Клещев А.С. Экспертная система, моделирующая процесс оптимизации программ. Обработка знаний : препринт / А. С. Клещев, М. А. Князева, 1990. - 44 с. - Текст : непосредственный.Expert system as a maze / O. A. Khrustalev, P. K. Silaev, O. D. Timofeevskaya, E. N. Tyurin, 1990. - 10 p. - Текст : непосредственный.Потапова О.Ф. Создание экспертных систем на базе ПЭВМ ЕС1840. Операторы языка пролог / О. Ф. Потапова, И. М. Птаховская, 1990. - 20 с. - Текст : непосредственный.Храмцов С.В. Система автоматизированного синтеза тестов для генератора экспертных систем СИНАП / С. В. Храмцов, 1990. - 28 с. - Текст : непосредственный.Artificial neural networks : сборник научных трудов / Ed. J. Diederich, 1990. - VII,141 p. p. - Текст : непосредственный.Artificial neural networks : сборник научных трудов / Ed. N. Morgan, 1990. - VIII,130 p. p. - Текст : непосредственный.Vemuri V.R. Artificial neural networks:concepts and control applications / V. R. Vemuri, 1992. - 509 p. - Текст : непосредственный.Artificial neural networks:concepts and theory / Сост.Compl.: P. Mehra, B. W. Wah, 1992. - XI,667 p. p. - Текст : непосредственный.Innovative applications of artificial intelligence 3 : материалы временных коллективов / Ed.: R. G. Smith, A. C. Scott, 1991. - 362 p. - Текст : непосредственный.Янаева М.В. Разработка и исследование кластерных экспертных систем : специальность 05.13.01 "Системный анализ,управление и обработка информации (по отраслям)" : диссертация на соискание ученой степени канд. техн. наук / М. В. Янаева, 2006. - 24 с. - Текст : непосредственный.Tomboulian S. Introduction to a system for implementing neural net connections on SIMD architectures : монография / S. Tomboulian, S.a. - 13 p. - Текст : непосредственный.Толковый словарь по искусственному интеллекту / Ред. А. Н. Аверкин, 1992. - 255 с. - Текст : непосредственный.Bellifemine F. Developing multi-agent systems with JADE / F. Bellifemine, G. Caire, D. Greenwood, 2007 r=on-line. - Текст : электронный.Осовский С. Нейронные сети для обработки информации / С. Осовский, 2004. - 343 с. - Текст : непосредственный.Дулин С.К. Моделирования сходства элементов базы знаний / С. К. Дулин, И. А. Киселев, 1994. - 23 c. - Текст : непосредственный.Frederichs G. Kunstliche Intelligenz im Hartetest der kommerziellen Praxis / G. Frederichs, M. Rader, 1993. - 108 S. - Текст : непосредственный.Artificial neural networks - ICANN 2008 / SpringerLink (Online service), 2008 r=on-line.Advances in artificial intelligence- IBERAMIA 2008 / SpringerLink (Online service), 2008 r=on-line. - Текст : электронный.Semantics in data and knowledge bases / SpringerLink (Online service), 2008 r=on-line. - Текст : электронный.
Показать все результатыИскусственный интеллект и принятие решений. - Журнал, 2024г. № 3. - Текст : непосредственный.Маджумдер, Мадина Шамсуловна. Причины искажения контента: анализ и классификация галлюцинаций в больших языковых моделях GPT / М. Ш. Маджумдер, Д. Д. Бегунова. - Текст : непосредственный // Искусственный интеллект и принятие решений / "Информатика и управление", федеральный исследовательский центр (Москва). - Москва. - 2024. - N 3. - с. 32-41
Искусственный интеллект и принятие решений. - Журнал, 2024г. № 3. - Текст : непосредственный.Система предиктивной аналитики технического состояния эксгаустера агломашины с помощью методов искусственного интеллекта / А. В. Чернухин, Е. А. Богданова, Т. В. Савицкая [и др.]. - Текст : непосредственный // Искусственный интеллект и принятие решений / "Информатика и управление", федеральный исследовательский центр (Москва). - Москва. - 2024. - N 3. - с. 87-103Бочков, Владимир Сергеевич. Точная многоклассовая сегментация пожаров: подходы, нейронные сети, схемы сегментации / В. С. Бочков, Л. Ю. Катаева, Д. А. Масленников. - Текст : непосредственный // Искусственный интеллект и принятие решений / "Информатика и управление", федеральный исследовательский центр (Москва). - Москва. - 2024. - N 3. - с. 71-86Гейдаров П.Ш. Алгоритм вычисления значений весов сверточной нейронной сети без обучения / П. Ш. Гейдаров. - Текст : непосредственный // Искусственный интеллект и принятие решений / "Информатика и управление", федеральный исследовательский центр (Москва). - Москва. - 2024. - N 3. - с. 54-70Хачумов, Михаил Вячеславович. Многослойные искусственные нейронные сети с функцией активации типа s-парабола и их приложения / М. В. Хачумов, Ю. Г. Емельянова. - Текст : непосредственный // Искусственный интеллект и принятие решений / "Информатика и управление", федеральный исследовательский центр (Москва). - Москва. - 2024. - N 3. - с. 42-53Маджумдер, Мадина Шамсуловна. Причины искажения контента: анализ и классификация галлюцинаций в больших языковых моделях GPT / М. Ш. Маджумдер, Д. Д. Бегунова. - Текст : непосредственный // Искусственный интеллект и принятие решений / "Информатика и управление", федеральный исследовательский центр (Москва). - Москва. - 2024. - N 3. - с. 32-41Кобринский, Борис Аркадьевич. Доверие к технологиям искусственного интеллекта / Б. А. Кобринский. - Текст : непосредственный // Искусственный интеллект и принятие решений / "Информатика и управление", федеральный исследовательский центр (Москва). - Москва. - 2024. - N 3. - с. 3-17
Заказ фрагмента документа ₽