Нам врали: у ИИ есть фантазия, и вот как её использовать
ЗВУК
Галлюцинации ИИ, эта фантазия которая звучит убедительно как факт, кажутся поломкой. На самом деле это суперсила, которую можно направить в нужное русло. В этом выпуске рассказываю, почему нейросеть выдумывает несуществующие источники, как проверить любой её ответ за двадцать секунд и как намеренно включать её фантазию, чтобы получать идеи которых нет в интернете.
Почему ИИ выдумывает факты и называет несуществующие источники
Когда люди говорят «ИИ врёт», они имеют в виду именно галлюцинации. Например, нейросеть называет несуществующие книги, придумывает цитаты философов, а также ссылается на исследования которых нет.
Со мной это тоже случалось. Например, в одном из ранних выпусков подкаста я рассказывала, как ChatGPT выдал мне красивую цитату Канта. Она была убедительной, с правильным философским звучанием, и при этом несуществующей.
Почему это происходит? Дело в том что ИИ не ищет информацию как поисковик. Вместо этого он предсказывает слова, а именно думает какие слова обычно стоят после такого вопроса, и в результате строит ответ, который звучит правдоподобно, даже если этого не существует.
Это не обман, а фантазия ИИ
Мозг тоже не ищет готовые ответы. Вместо этого он соединяет известное по-новому и придумывает то, чего раньше не было. Точно так же ИИ делает то же самое, только очень быстро и без предупреждения.
ИИ не врёт. ИИ фантазирует. Разница в том, где ты это применяешь.
Нам говорили: у ИИ нет фантазии, он просто справочник. Однако это не так. У него есть способность создавать то, чего ещё не было, и поэтому вопрос только в том, как ты это используешь.
Когда галлюцинации ИИ опасны и как проверить ответ за 20 секунд
Однажды я готовила материал для курса и попросила ИИ дать статистику. Он выдал красивую цифру: семьдесят три процента людей делают это неосознанно. Я уже хотела вставить это в слайд, но что-то остановило меня. Поэтому я скопировала фразу и вбила в поиск, а источника не нашлось. Значит цифра была выдуманная.
Что всегда нужно проверять в ответах ИИ
Есть задачи где ИИ фантазировать не должен, а именно факты, цифры и источники. Если ты просишь назвать исследование, закон, статистику, имя эксперта, дату или ссылку на книгу, всё это нужно проверять.
Проверка занимает двадцать секунд: сначала скопируй ключевую фразу, затем вставь в поиск, и посмотри есть ли реальный источник. Если источника нет, значит цифра выдуманная, и поэтому убери её или найди реальную.
Простое правило: чем конкретнее факт, тем выше риск галлюцинации. Это касается всех нейросетей, среди них ChatGPT, Claude, Gemini. Именно поэтому чем необычнее вопрос, тем выше вероятность что ИИ начнёт сочинять.
Как использовать галлюцинации ИИ как инструмент творчества
Есть задачи где точность не нужна совсем, а нужна не правда, а идея. Иными словами, не факт, а направление, не готовый ответ, а что-то чего ещё не существует. Именно здесь фантазия ИИ становится подарком.
Три ситуации где фантазия ИИ работает на тебя
Во-первых, если придумываешь темы для контента, попроси ИИ предложить тему которой ещё ни у кого не было. Он выдаст что-то необычное, потому что готового ответа нет и он начнёт сочинять. Во-вторых, если застряла в структуре курса или программы, попроси описать идеальный метод обучения которого ещё не существует для твоей аудитории. В-третьих, если ищешь название для продукта, попроси придумать слово которого нет в русском языке, но которое звучало бы как название твоего подхода.
В каждом из этих случаев ИИ не опирается на готовое, а создаёт. И именно это тебе и нужно.
Формат вопроса «А что если» для фантазии ИИ
Когда я застряла с курсом и перерыла весь интернет без результата, я задала ИИ один вопрос: «А что если бы ты был лучшим учителем по ИИ сегодня, как бы ты построил свой курс для моей аудитории?»
После этого разговора курс изменился так, что ученики стали приходить к своим целям легче и быстрее. Дело не в том что я добавила больше информации, а в том что убрала лишнее и переставила так, как человек на самом деле учится.
Структура вопроса простая: «А что если бы ты была [роль], как бы ты [действие] для [твоя аудитория]?» Например, «А что если бы ты была лучшим коучем по деньгам, как бы ты объяснила денежный сценарий женщине, которая боится даже думать о деньгах?»
Не проси у ИИ правильный ответ. Предложи ему роль и задай вопрос, на который не существует готового ответа.
После первого ответа не останавливайся, а продолжай диалог: «А что бы ты убрала из этого?», «А что мешает большинству людей дойти до результата?». Таким образом каждый следующий вопрос углубляет ответ, и в какой-то момент рождаются решения которых нет в интернете.
Главное из выпуска. Галлюцинации ИИ не враг и не поломка нейросети, а её способность фантазировать. Прежде всего, там где нужна точность, факт всегда нужно проверять за двадцать секунд. А там где нужна идея, фантазия ИИ становится инструментом, который в результате дал мне решения не найденные ни в одной книге.
Частые вопросы про галлюцинации ИИ
Про галлюцинации ИИ и причины их появления
Почему ИИ уверенно называет несуществующие факты?
Дело в том что он не ищет информацию, а предсказывает слова. Он строит ответ который звучит правдоподобно, даже если этого не существует. Иными словами, это архитектурная особенность, а не намеренный обман.
Все ли нейросети галлюцинируют?
Да, это касается всех современных нейросетей, среди них ChatGPT, Claude и Gemini. Степень отличается, однако ни одна не застрахована, особенно при редких или очень узких запросах.
Про пользу галлюцинаций ИИ на практике
Как быстро проверить что ИИ не выдумал факт?
Сначала скопируй ключевую фразу или цифру из ответа ИИ, а затем вставь в поисковик. Если реального источника нет за тридцать секунд поиска, значит цифра выдуманная, поэтому убери её или найди реальный источник.
Когда галлюцинации ИИ полезны?
Когда тебе нужна идея, а не факт. Прежде всего это генерация идей контента, названий продуктов, структуры курсов и нестандартных решений. Именно в этих задачах фантазия ИИ работает на тебя.
Про формат вопроса «А что если» для фантазии ИИ
Что такое вопрос «А что если» и как его использовать?
Это формат вопроса который переключает ИИ с поиска фактов на творческое сочинение. Структура простая: «А что если бы ты была [роль], как бы ты [действие] для [аудитория]?» При этом после первого ответа стоит продолжить диалог уточняющими вопросами.
Об авторе
