Нейросеть: что это и как она работает простыми словами

Кратко. Нейросеть это программа, которая учится на примерах. Внутри она состоит из слоёв простых узлов, и каждый узел умножает входные числа на свои веса. Во время обучения веса подкручиваются, пока ответы не станут похожи на правильные. Поэтому нейросеть не думает, а угадывает самый вероятный ответ: следующее слово, спам или нет, какой пиксель поставить.

Нейросеть это что простыми словами

Нейросеть это программа, которая научилась делать работу, глядя на примеры. Никто не писал ей инструкцию «если в письме есть слово "выигрыш", клади в спам». Ей показали горы писем с пометкой «спам» и «не спам», и она сама нашла, по каким признакам их отличать.

В этом вся разница с обычной программой. Калькулятор работает по правилам, которые придумал программист, и ошибается только если ошибся программист. Нейросеть правила выводит сама, из данных. Иногда находит такие, до которых человек не додумался бы. Иногда такие, которые работают на обучающих примерах и ломаются на первом же настоящем.

Допустим, ты хочешь научить программу отличать кошек от собак на фото. Написать правила руками почти невозможно: уши бывают разные, морды тоже, а шпица от кота на плохой фотографии не всегда отличит и человек. Зато можно собрать сто тысяч подписанных снимков и дать сети самой разобраться. Примерно так и сделали большинство систем, которыми ты пользуешься каждый день.

Где ты уже пользуешься нейросетью каждый день

Скорее всего, сегодня ты уже пользовался нейросетью раз двадцать и ни разу этого не заметил. Она давно живёт в вещах, которые кажутся обычными.

• Почта. Фильтр спама решает, какое письмо ты увидишь, а какое уедет в папку, куда ты заглядываешь раз в полгода.
• Клавиатура телефона. Подсказки над буквами угадывают следующее слово по тому, что ты уже набрал, и со временем подстраиваются под тебя.
• Камера. Ночной режим склеивает несколько кадров, убирает шум и решает, какого цвета должно быть небо. Портретный режим сам находит, где заканчиваются твои волосы и начинается фон.
• Разблокировка по лицу. Телефон сравнивает, насколько лицо перед камерой похоже на то, что он запомнил при настройке.
• Лента и музыка. Рекомендации подбирают следующий ролик по тому, что ты досмотрел и что пролистал.
• Переводчик. Он переводит фразу целиком, а не по словам, поэтому текст звучит почти по-человечески.

Общее у всех шести одно: задача, которую трудно описать правилами, но легко показать на примерах. Как выглядит спам, объяснить сложно. Показать миллион спам-писем легко.

Нейрон и слой: из чего она собрана

Название пугает сильнее, чем устройство. Искусственный нейрон это крошечный калькулятор: берёт несколько чисел, умножает каждое на свой коэффициент, складывает и решает, передавать ли результат дальше. Коэффициенты называются весами, и в них вся память сети.

Представь кухонные весы, которые оценивают, вкусный ли суп. На вход приходят соль, острота, температура. У каждого признака свой вес: соль важна сильно, температура чуть-чуть. Нейрон складывает всё с учётом весов и выдаёт одно число: «скорее вкусно». Один такой нейрон почти ничего не умеет.

Сила появляется, когда их много и они стоят слоями:

1. Входной слой получает сырые данные: пиксели картинки, буквы текста, звук.
2. Скрытые слои постепенно собирают из мелочей крупное. На картинке первые слои ловят края и пятна, следующие уже глаза и уши, дальние целые морды.
3. Выходной слой отдаёт ответ: «кошка» с вероятностью 94 процента, «собака» с вероятностью 6.

Слово «глубокое обучение» значит ровно это: слоёв много, и каждый строит свои понятия поверх предыдущего. В больших современных моделях весов миллиарды, но устроен каждый узел так же скромно, как наш суповой калькулятор.

С мозгом у всего этого родство дальнее. Идея взята у биологии: клетки передают сигнал, связи бывают сильными и слабыми. Дальше сходство заканчивается, и настоящий нейрон устроен несравнимо сложнее своего тёзки в программе.

Как работает нейросеть: обучение на примерах

Сразу после создания сеть бесполезна: веса у неё случайные, и на фото кошки она отвечает что попало. Обучение это долгая подкрутка этих весов, пока ответы не станут совпадать с правильными.

Работает это как игра «горячо, холодно»:

1. Сети показывают пример, скажем фото кошки.
2. Она отвечает: «собака, 70 процентов».
3. Программа считает, насколько ответ далёк от правды. Это число называют ошибкой.
4. Каждый вес чуть сдвигается в ту сторону, где ошибка станет меньше. Способ, которым считают, куда двигать каждый вес, называется обратным распространением ошибки.
5. Следующий пример, и всё сначала.

Один шаг почти ничего не меняет. Миллионы шагов превращают случайный набор чисел в систему, которая различает породы кошек лучше тебя. Отсюда главный голод нейросетей: им нужны данные, много данных, и желательно хорошо подписанных. Подробно этот цикл, со всеми слоями и функциями, разобран в курсе Google по машинному обучению.

Обучение и работа это два разных режима. Учат модель один раз, долго и на мощных компьютерах, а потом веса замораживают. Когда ты пишешь чат-боту или жмёшь кнопку в фоторедакторе, сеть ничему не учится: она просто прогоняет твои данные через готовые слои. Если бот «запомнил» твоё имя в разговоре, это сработала память переписки, а не новые веса. Попадёт ли переписка в обучение следующих версий, решают правила и настройки конкретного сервиса, и их стоит открыть до того, как грузить туда что-то личное.

Качество примеров решает всё. Если в обучающем наборе все кошки сняты на диване, а все собаки на траве, сеть может выучить диван. Покажи ей потом кошку на газоне, и она уверенно скажет «собака». Смешно, пока речь о котах, и совсем не смешно, когда так учат систему проверки документов.

Почему нейросеть не думает, а угадывает

Когда чат-бот отвечает связным текстом, трудно отделаться от ощущения, что с той стороны кто-то есть. Механика скучнее. Языковая модель на каждом шаге решает одну задачу: какое слово вероятнее всего идёт дальше.

Представь, что ты набираешь в телефоне «Буду через». Клавиатура предлагает «пять минут», потому что после этих слов так пишут чаще всего. Большая языковая модель делает то же самое, только видела она не твою переписку, а огромную часть интернета, книг и кода. И угадывает она не одно слово, а целый ответ, слово за словом.

Из этого следуют две вещи, которые полезно помнить:

• Уверенный тон ничего не значит. Модель выдаёт правдоподобное, а правдоподобное и правдивое совпадают часто, но не всегда. Выдуманная ссылка на несуществующую статью для неё выглядит так же нормально, как настоящая.
• Она не знает, чего не знает. Спроси про телефон, который вышел вчера, и получишь уверенное описание по мотивам прошлых моделей.

Есть и третья вещь, которая удивляет новичков. Задай один и тот же вопрос дважды, и ответы будут разными. Модель на каждом шаге выбирает слово не строго самое вероятное, а с долей случайности среди нескольких подходящих. Без этой случайности тексты выходили бы деревянными и одинаковыми, с ней каждый ответ немного свой. Генераторы картинок устроены похоже: один и тот же запрос дважды даёт два разных кадра, потому что стартуют они с разного шума.

Ошибки такого рода называют галлюцинациями. Слово эффектное, но суть приземлённая: сеть заполнила пробел самым похожим вариантом. С картинками происходит то же самое, только вместо выдуманного факта выходит лишний палец или часы на руке с двумя циферблатами.

Нейросеть и ИИ: что это и чем отличаются

«Нейросеть ИИ что это» спрашивают так, будто это одно слово, и в быту их правда смешивают. Искусственный интеллект это вся область целиком: программы, которые решают задачи, похожие на человеческие. Нейросеть это один из способов построить такую программу.

До нейросетей ИИ делали на правилах. Шахматная программа перебирала ходы по формулам, экспертная система ставила диагноз по цепочке «если, то». Такие штуки работают и сейчас, и тоже называются ИИ. Просто в последние годы почти всё громкое, от ChatGPT до генераторов картинок, построено на нейросетях, и слова слиплись.

В рекламе словом «нейросеть» теперь называют всё подряд, от фильтра для селфи до приложения с гороскопом. Полезно знать, что за вывеской может стоять что угодно: своя модель, чужая модель через подключение или обычный набор фильтров, который никто не учил на примерах. Узнать, что внутри, можно только по описанию самого сервиса, а если оно молчит, судить стоит по результату.

Чем генеративные модели отличаются от тех, что просто сортируют и распознают, и где они чаще всего врут, разобрано в статье про генеративный ИИ.

Три семьи задач: текст, картинки, распознавание

Все нейросети, с которыми ты сталкиваешься, делятся на три большие семьи. Устроены они по-разному, и ошибаются тоже по-разному.

Первая семья работает с текстом. Сюда входят чат-боты, переводчики, подсказки клавиатуры, проверка орфографии. Они продолжают или переписывают текст. Их типичная ошибка: гладкая, уверенная и неверная фраза.

Вторая семья создаёт и правит картинки. Генераторы по описанию, удаление фона, увеличение резкости, замена неба на фото. Они рисуют пиксели, которых не было. Типичная ошибка: мелкие детали, которые не сходятся, от пальцев до надписей на вывесках.

Третья семья распознаёт. Камера находит лица в кадре, банк сверяет селфи с паспортом, почта сортирует письма, навигатор угадывает пробку. Эти сети ничего не создают, они относят вход к одному из вариантов. Их ошибка тише: ложное срабатывание или пропуск.

Границы между семьями последние годы размываются. Чат-боты научились смотреть на картинки и отвечать про них, генераторы понимают длинные описания почти как языковые модели, а распознавание встроено внутрь и тех, и других. Такие модели называют мультимодальными: им на вход можно дать текст, фото и иногда звук вперемешку. Но внутри у них всё равно разные части под разные задачи, и слабые места каждой семьи никуда не деваются.

Скажем, ты фотографируешь чек, и приложение само вытаскивает сумму. Работают три семьи сразу: одна находит на фото прямоугольник чека, вторая распознаёт буквы, третья понимает, где из этих цифр итог, а где номер кассы.

Как нейросеть рисует картинки

Генераторы изображений устроены иначе, чем чат-боты, хотя снаружи выглядят похоже: пишешь текст, получаешь результат. Большинство современных моделей учили на миллионах картинок с подписями, и учили странному: восстанавливать изображение из шума.

Во время обучения к фото шаг за шагом подмешивают шум, пока не останется серая каша, и учат сеть делать обратный ход. Когда ты просишь картинку, модель стартует со случайного шума и за десятки шагов вычищает из него изображение, подглядывая в твой текст. Этот подход называется диффузией, и подробно, с картинками по шагам, он разобран в статье про диффузию простыми словами.

Для человека в кадре из этого следует неприятная вещь. Модель знает, как выглядят люди вообще, но понятия не имеет, как выглядишь ты. Попроси «мужчина 34 лет, короткая борода, тёмные волосы», и она нарисует среднего мужчину из тысяч подходящих под описание. Похожего на тебя в той же мере, в какой похож любой прохожий с бородой.

Чтобы в кадре был ты, сети нужно показать твоё лицо. Способов два: дать снимки как образцы прямо во время генерации или дообучить модель на твоих фото. Второй путь по шагам описан в статье о том, как нейросеть учится на твоих фото.

Где нейросеть ошибается и как это заметить

Сбои случаются там, где примеров было мало или где неверный ответ похож на правильный. Хорошая новость: эти места предсказуемы, и через неделю пользования ты начнёшь видеть их сам.

1. Свежие события и узкие темы. Чего не было в обучающих данных, того модель не знает, но ответ всё равно напишет.
2. Цифры, даты, ссылки. Проверяй каждую, если от неё что-то зависит.
3. Мелкие детали на картинках: пальцы, зубы, серьги, буквы, узор на ткани.
4. Лицо конкретного человека. Модель тянет его к среднему, и через пару правок ты становишься на себя просто похож. Причина в том, что лицо перерисовывается заново при каждой правке.
5. Всё, где ошибка стоит денег или здоровья. Медицинский и юридический совет от чат-бота годится как черновик вопроса к специалисту, не больше.

Представь, что ты просишь чат-бот посчитать, сколько обоев нужно на комнату. Он бодро выдаст расчёт, а потом выяснится, что дверь он вычесть забыл. Лечится это одним способом: воспринимай ответ сети как черновик от старательного стажёра, которого надо проверить.

Самая полезная привычка при работе с любой нейросетью скучная: давать ей конкретику и перечитывать результат. Чем точнее ты описал задачу, тем меньше модели приходится угадывать, и тем реже она угадывает мимо. Как формулировать запросы так, чтобы переделывать меньше, разобрано в статье о том, как написать промпт.

Если тебе нужна от нейросети не картинка про кого-то, а твои портреты, мы делаем их по твоим селфи: в каталоге больше 600 сцен, пакеты от 490 ₽.

Частые вопросы