Первые шаги в ИИ: от запроса до результата - Коллектив авторов

В двух словах, GenAI генерирует результаты, которые выглядят как оригинальные мысли или изображения, но на самом деле являются результатом работы очень продвинутого программного обеспечения, предсказывающего контекст. GenAI извлекает слова или изображения из базы данных и перерабатывает их в новый ответ. Большой секрет заключается в том, что человеческое ощущение «разговора» – это иллюзия. Вы не беседуете с машиной, а ИИ не понимает ваших слов в запросе.

Современные модели GenAI не думают и не создают что-то новое в полном смысле этого слова. Они генерируют новые вещи из фрагментов старых данных, найденных в их базе данных. Выход GenAI – это лучшее предсказание того, что вы ищете. В упрощённом объяснении сложной технологии GenAI стремится завершить шаблон, который вы начали своим запросом – вопросом или командой, введённой в пользовательский интерфейс GenAI.

Подумайте о выводах GenAI, как о результате обработки информации, имеющейся в его доступных базах данных, включая:

• Данные, к которым она была допущена при обучении, а также любые дополнительные данные, предоставленные в процессе обучения.

• Данные, добавленные через системные сообщения и запросы.

• Данные, добавленные с помощью таких методов, как генерация с усилением извлечения (RAG), которая помогает повысить точность, актуальность и надёжность за счёт добавления внешних источников в базу данных GenAI.

RAG объединяет сильные стороны как ИИ для извлечения информации, так и GenAI. RAG можно рассматривать как GenAI, дополненный более традиционным ИИ для извлечения информации. Поскольку GenAI генерирует результаты, которые являются результатом переработки информации, у него нет понятия правды или лжи, фактов и вымысла. GenAI может точно определять эти термины, но не понимает их значения. Он не понимает ничего из того, что вы написали в запросе или в своём ответе. Это всего лишь иллюзия, и именно поэтому вам всегда нужно проверять факты.

Выводы GenAI ограничены рамками данных, к которым у него есть доступ. Проще говоря, если бы его обучающие данные представляли собой гору кубиков Лего без крышек, то GenAI собирал бы свои выводы без крышек, не зная об их существовании. Точно так же он не отличает факты от вымысла, если только такие метки не присваиваются конкретным данным в его наборе данных. Но если ложь обозначена как факт, GenAI безоговорочно примет её за истину. Он по-прежнему не понимает разницы.

Искусственный генеративный интеллект: понимание возможностей и ограничений

Характеристики и пределы генеративного ИИ

Генеративный ИИ (GenAI) способен обрабатывать и комбинировать только те данные, к которым у него есть доступ. Именно поэтому результаты его работы могут быть как очень надёжными, так и совершенно ошибочными или находиться где-то посередине. Самих данных может быть недостаточно для создания точного ответа.

Распространенными проблемами являются:

● Устаревшая информация из обучающих наборов данных.

● Данные, ограниченные недостаточным количеством точек зрения или примеров.

Когда (а не если) результаты оказываются ошибочными, люди называют их «галлюцинациями» (hallucinations). Непонятно, почему никто не называет их просто ложью, заблуждениями и ошибками. В любом случае, нельзя полагаться на выводы GenAI без серьезной фактической проверки.

Хотя GenAI учитывает контекст при анализе слов в вашем запросе, он не понимает вас или содержание запроса по-настоящему. Именно поэтому не следует путать GenAI с общим искусственным интеллектом, также известным как искусственный общий интеллект (AGI). AGI пока существует только в научно-фантастических фильмах, книгах и телешоу. Некоторые люди настолько поражены возможностями GenAI, что уверены: именно он захватит мир, как в фильмах! Но это не так.

Важно помнить: GenAI впечатляет, но его способность рассуждать ограничена. Настоящая магия происходит при взаимодействии человека и системы.

Понимание проблемы «лишних пальцев» и других особенностей GenAI

Самое удивительное в использовании GenAI – это тонкий баланс между человеком и машиной, порождающий нечто, чего ни один из них не смог бы создать в одиночку. Но после первых захватывающих моментов восхищения чудесами GenAI вы начнёте замечать определённые недостатки.

Например, для моделей GenAI типично изображать людей с 6 или более пальцами на одной руке. Это происходит потому, что в своих данных система видит паттерны с большим количеством пальцев на человеческой руке. Четкого паттерна с 5 пальцами не формируется, поэтому GenAI не может предсказать, сколько пальцев нужно сгенерировать.

По сути, GenAI просто повторяет ответ из своей базы данных. Он не понимает ни вопроса, ни ответа, а потому не знает, что должен нарисовать только 5 пальцев. Вместо этого он ищет шаблоны изображения рук в доступных ему наборах данных. Но шаблон общего количества пальцев неясен.

На изображениях в большинстве баз данных, используемых моделями GenAI, обычно показаны руки в разных положениях, где видны только некоторые пальцы или пальцы 2 и более рук переплетены. Поэтому GenAI не видит последовательного шаблона общего количества пальцев на руке. Однако, если вы спросите модель, сколько пальцев на руке, она почти всегда ответит, что 5. Даже давая правильный ответ о количестве пальцев, она не понимает собственного ответа и не знает правильного решения.

Несогласованность шаблонов данных и вытекающие из этого ошибки прогнозирования вероятностей – причина появления слишком большого или слишком малого количества пальцев на изображениях, созданных GenAI. Это часто является причиной и других проблем на изображениях и видео, созданных GenAI, таких как ошибки в тенях или движении.

Как работать с GenAI – всё дело в ваших промптах

Естественный человеческий язык стал компьютерным языком. В случае с GenAI это означает, что машина по-прежнему работает как машина, а человек – как человек, но теперь они могут взаимодействовать через компьютерный язык, понятный обычным людям, а не программистам.

Однако вам, человеку, всё равно нужно думать как машина, чтобы максимально использовать возможности GenAI. Программисты знают, насколько важно думать как машина при программировании – это верно независимо от выбранного языка программирования, будь то JavaScript, Java, HTML/CSS, SQL, Python, английский или русский.

Почему важно изменить образ мышления? Потому что вы не разговариваете с GenAI. Вы даёте инструкции (и да, даже если ваш запрос – это вопрос, это все равно инструкция) о том, что вы хотите получить от модели, подобно тому, как это делает любой программист. Вы должны мыслить глубже, чём на уровне языка, на уровне результата, который вы хотите получить. Ценность программиста заключается не в знании компьютерного языка, хотя это тоже важно, а в способности решать проблемы и преобразовывать решения в язык, дающий точный результат. Именно так нужно думать и работать с моделями GenAI.

Ваши промпты должны быть более чёткими и детализированными, чём обычные разговоры с другим человеком. Вы не можете предполагать, что собеседник автоматически заполнит общие детали, потому что GenAI часто не знает этих деталей. Несмотря на видимость, GenAI не думает и не понимает ваш промпт по-настоящему. Многие естественные предположения, которые вы делаете при общении с человеком, не будут работать при взаимодействии с этими моделями.

Формула успеха с GenAI: машина говорит как человек. Человек думает как машина. чём лучше вы научитесь объяснять GenAI, чего хотите, тем лучше он будет давать вам то, что вам нужно. Все дело в практике.

Почему GenAI кажется таким человечным

От составления предложений до создания изображений, музыки или синтетических данных – GenAI мастерски создаёт контент, который часто легко принять за созданный человеком.