Генеративный ИИ: что это, какие бывают модели и где он ошибается

Кратко. Генеративный ИИ это нейросети, которые создают новое: текст, картинки, видео, музыку, голос. Они учатся на огромных наборах примеров и собирают ответ, похожий на увиденное. Языковые модели (LLM) пишут текст, диффузионные рисуют, отдельные модели делают видео и звук. Слабое место у всех одно: правдоподобную выдумку они подают так же уверенно, как факт.

Генеративный ИИ: что это такое

Если нейросеть на твой запрос выдала что-то, чего до этого не существовало, это генеративный ИИ. Письмо, которое чат-бот написал за тебя, картинка по описанию, озвучка текста чужим голосом, ролик из фотографии: всё это он.

Слово «генеративный» значит «порождающий». Модель не достаёт готовый ответ из базы, она его собирает. Скажем, ты просишь «поздравление начальнику на пятидесятилетие, без пафоса». Такого текста нигде не лежит. Модель складывает его слово за словом из того, как вообще пишут поздравления, как звучит «без пафоса» и что обычно говорят про юбилей.

Как устроена нейросеть сама по себе, со слоями и обучением на примерах, разобрано в статье нейросеть: что это простыми словами. Здесь про то, что происходит, когда её учат создавать.

Чем генеративный ИИ отличается от обычного

Обычный ИИ отвечает на вопрос «что это?», генеративный на вопрос «что тут может быть?». Первый сортирует, второй дописывает.

Разница важна по одной практической причине. Когда ошибается сортировщик, ты видишь это сразу: нужное письмо в спаме, лицо не найдено. Когда промахнулся генератор, промах ещё надо найти. Он отдаёт готовый текст или картинку, и выглядит результат одинаково гладко, что с ошибкой, что без неё.

Генеративные модели ИИ: какие бывают

Генеративные модели делятся по тому, что они создают. Устроены они по-разному, и хорошие в одном редко хороши в другом.

1. Языковые модели. Пишут и переписывают текст, отвечают на вопросы, переводят, пишут код. Примеры: ChatGPT, GigaChat, YandexGPT, DeepSeek.
2. Модели для картинок. Рисуют изображение по описанию. Большинство из них диффузионные: стартуют с шума и шаг за шагом вычищают из него картинку. Примеры: Stable Diffusion, Flux, Midjourney, Кандинский.
3. Редактирующие модели. Берут твоё фото и меняют его словами: другой фон, другая одежда, другой свет. Пример: Нано Банана от Google.
4. Видеомодели. Делают ролик по тексту или оживляют картинку. Примеры: Veo, Kling, Sora.
5. Модели звука. Синтез голоса, озвучка, музыка по описанию.

Как именно диффузия превращает шум в картинку, подробно в статье про диффузию простыми словами. Для понимания хватит одного: картинку никто не рисует линиями, её проявляют, как фото в растворе.

Генеративный ИИ и LLM: в чём разница

LLM это часть генеративного ИИ, а не синоним. Расшифровка простая: large language model, большая языковая модель. Она работает с текстом и на каждом шаге угадывает следующий кусочек слова по всему, что было до него.

Путаница понятна. Для большинства людей генеративный ИИ начался с ChatGPT, а ChatGPT построен на LLM. Потом в тот же чат добавили картинки, и граница размылась ещё сильнее. Представь: ты пишешь в чат «нарисуй мой гараж уютным», и через полминуты получаешь картинку. Со стороны это одна программа. Внутри языковая модель разобрала твою просьбу, а рисовала другая модель или отдельная часть той же системы, которую учили на изображениях.

Отсюда полезное правило. Если чат-бот хорошо пишет, это ничего не говорит о том, как он рисует, и наоборот. Сервисы, которые умеют и то и другое, называют мультимодальными, но оценивать их всё равно приходится по каждой задаче отдельно.

Есть и ещё одно различие. Языковой модели можно объяснить задачу длинным письмом, с оговорками и примерами, и она учтёт почти всё. Модель картинок читает описание хуже: длинный запрос она часто понимает по первым словам, а хвост с деталями теряет. Поэтому одна и та же просьба, отправленная в чат и в генератор картинок, работает по-разному, и писать её тоже стоит по-разному.

Технологии генеративного ИИ: на чём это держится

Под капотом почти у всех современных моделей две идеи. Первая называется трансформер: архитектура, которую предложили исследователи Google в 2017 году. Она умеет смотреть сразу на весь текст и понимать, какие слова связаны между собой. На ней построены языковые модели, и её же используют внутри многих генераторов картинок и видео.

Вторая идея это диффузия, про неё выше. Модель учат убирать шум из испорченных картинок, а потом заставляют начинать с чистого шума.

И третий ингредиент, без которого не работает ни одна: данные. Языковые модели читали огромные объёмы текста, модели картинок смотрели на миллионы изображений с подписями. Модель знает только то, что было в этих данных, и в тех пропорциях, в каких было. Если в обучающих фото мужчины за сорок встречались реже двадцатилетних, модель будет чуть охотнее молодить лицо.

Чего генеративный ИИ не знает

Каждая модель застывает в момент, когда её закончили учить. Всё, что случилось позже, она не видела. Спроси про телефон, который вышел на прошлой неделе, и она уверенно опишет что-то по мотивам прошлых моделей. Часть сервисов подключает к модели поиск в интернете, и тогда ответ опирается на свежие страницы, но сама модель от этого умнее не становится.

Второй пробел касается тебя лично. Модель ничего не знает о твоей жизни, если ты не рассказал, и ничего не знает о твоём лице, если ты его не показал. Скажем, ты просишь «напиши обо мне пару строк для анкеты». Без подробностей выйдет текст про среднего мужчину, который любит путешествия и хорошую компанию. Этот текст подходит всем, поэтому не работает ни на кого.

С картинками то же самое. Генератор по тексту нарисует мужчину, похожего на описание, но не тебя. Чтобы получился ты, модели нужны твои фото: как образцы во время генерации или как материал для отдельного обучения.

Использование генеративного ИИ: где он полезен

Генеративный ИИ хорош там, где нужен черновик, который ты потом доведёшь сам. Он плох там, где нужен точный ответ с первой попытки.

Где он экономит вечер:

• черновик письма, объявления, поздравления, резюме;
• объяснить сложную тему своими словами и ответить на глупые вопросы без осуждения;
• картинка для презентации, обложки, открытки, где человек в кадре придуманный;
• убрать с фото лишний объект или заменить фон;
• перевести и пересказать длинный текст.

Представь, что тебе надо за вечер написать объявление о продаже машины. Генеративный ИИ за минуту выдаст аккуратный текст со всеми разделами, и останется вписать пробег, комплектацию и реальные косяки. Попроси его придумать пробег сам, и он придумает, причём красиво.

Где лучше не полагаться:

• цифры, даты, ссылки и цитаты без проверки;
• медицина, право, деньги;
• документы, где лицо должно совпасть с оригиналом до миллиметра;
• портрет, по которому тебя должны узнать, если модель видела тебя один раз.

Где генеративный ИИ ошибается

Галлюцинация это когда модель уверенно выдаёт то, чего нет. В тексте это выдуманная статья закона или книга, которую никто не писал. На картинке шестой палец, часы с двумя циферблатами, надпись из несуществующих букв.

С лицом ошибки тоньше и неприятнее. Допустим, ты загружаешь своё фото и просишь «то же самое, только в костюме на фоне офиса». Модель перерисовывает кадр целиком, и лицо тоже. Нос становится чуть ровнее, родинка на щеке пропадает, линия роста волос сдвигается на сантиметр. По отдельности каждая мелочь незаметна. Вместе они дают эффект «вроде я, но не я», и знакомые на аватарке узнают тебя через раз.

Почему так выходит: модель знает, как выглядят лица вообще, и тянет твоё к среднему. Всё, что она не разглядела на исходнике, она дорисовывает по памяти о тысячах чужих лиц. Подробно механика в статье о том, почему AI меняет лицо.

Как проверять то, что выдал генеративный ИИ

Проверка занимает минуту, если знать, куда смотреть:

1. Факты, цифры и имена в тексте: каждый, от которого зависит решение, ищи в первоисточнике.
2. Руки, зубы, уши, украшения и надписи на картинке: здесь ошибки живут чаще всего.
3. Лицо на портрете: поставь рядом своё обычное фото в том же размере и сравни нос, брови, линию подбородка.
4. Фон: прямые линии должны быть прямыми, окна одинаковыми, тени падать в одну сторону.

Если нужны портреты, где держится именно твоё лицо, мы делаем их по твоим селфи: каталог на больше 600 сцен, пакеты от 490 ₽.

Частые вопросы