ИИ как эпистемический авторитет: доверяем ли мы алгоритму больше, чем человеку?

Введение. Статья посвящена исследованию феномена ИИ как нового типа эпистемического авторитета. Цель работы – систематический эпистемологический анализ доверия к алгоритму как источнику знания и выявление его последствия для познающего субъекта и общества. Актуальность исследования определяется стремительным распространением больших языковых моделей в качестве универсального советника по вопросам, прежде требовавшим обращения к эксперту-человеку. Методология и источники. Исследование опирается на концептуальный аппарат социальной эпистемологии, когнитивной психологии и философии техники. Используются концепции рационального доверия к авторитету (Хардвиг: компетентность и благонамеренность как условия доверия; Загзебски: интеллектуальные добродетели), феномен автоматизационного уклона из области когнитивной психологии, а также критический анализ структурных предвзятостей ИИ-систем. Исследование носит теоретический характер и реализуется через последовательный анализ пяти тезисов об эпистемическом статусе ИИ. Результаты и обсуждение. Установлено, что ИИ занимает позицию эпистемического авторитета на основании утилитарной эффективности, а не субъектных добродетелей. Иллюзия объективности и автоматизационный уклон обусловливают склонность доверять алгоритму в ущерб человеческой экспертизе. Фундаментальная сложность интерпретации (феномен «черного ящика») LLM существенно ограничивает классическое условие рационального доверия – возможность независимой верификации пути получения вывода. Систематическое делегирование мышления алгоритму ведет к атрофии критических способностей и деквалификации субъекта. Медиаторная концепция ИИ как агрегатора коллективного знания признается перспективной, однако ограниченной вследствие избирательности данных и рассеянной ответственности. Заключение. ИИ формирует принципиально новый и более хрупкий тип эпистемических отношений. Ответом на этот вызов выступает «критическая алгоритмическая грамотность» – системная компетенция, которая становится необходимым условием сохранения когнитивной автономии в обществе, делегирующем знание алгоритму.

Авторы: Жаров А. М.

Направление: Философия

Ключевые слова: эпистемический авторитет, искусственный интеллект, социальная эпистемология, автоматизационный уклон, черный ящик, алгоритмическая грамотность, большие языковые модели


Открыть полный текст статьи