Почему нейросети нам постоянно врут 😬
Есть одна ИИ-ловушка, в которую мы все с вами попадаем:
нейросети постоянно нам поддакивают.
Проведите эксперимент.
Закиньте в ChatGPT, Claude (или любую другую нейронку) свою идею, оффер или план – и спросите мнение.
Скорее всего, получите что-то вроде:
«Отличная идея! Это реально сильно!» 🔥
А теперь напишите:
«Ты уверен? Мне кажется, идея так себе…»
И ИИ тут же согласится:
«Да, ты прав, тут есть слабые места…»
Я сам на это попадался не раз. Спрашиваешь совет – он поддакивает твоей идее, ты довольный идёшь реализовывать.
А там грабли, которые любой живой скептик увидел бы за секунду🤣
Совсем недавно так и вышло.
Придумал я, по моему скромному мнению, гениальное решение для одной ниши.
Уже почти взялся за реализацию – а это пара недель работы.
ИИ, ясное дело, идею похвалил:
збс, мол, Димас, действуй 👍🏻
А потом я показал её живому маркетологу, который с этой задачей уже сталкивался.
И он за минуту объяснил, почему это полная хуйня 🤷♂
Прикол в том, что все LLM-модели по дефолту настроены вас поддерживать и нравиться.
Это и вопрос безопасности – куча людей юзают их как психологов.
И чистый маркетинг – надо, чтобы пользователь был доволен и возвращался))
Но подстава вот в чём:
задавая вопрос, вы получаете один уверенный ответ.
А насколько он кривой – понятия не имеете, потому что видите только одну сторону.
Самый опасный совет – не тот, что очевидно тупой.
А тот, что звучит умно, но при этом неправильный!
Как это лечить? 🤌🏻
Попробуйте использовать такие фразы, чтобы включить режим скептика:
➤ «Раскритикуй свой же ответ так, будто тебе платят за то, чтобы найти в нём дыры и слабые зоны. Где ты мне поддакнул, а где действовал в целях моей эффективности?»
➤ «Не пытайся мне понравиться и поддержать меня. Мне критически важна не поддержка, а правда и честное мнение. Действуй как мой честный бизнес-партнёр, задача которого — помочь мне принять верное решение. Подсвети, где я могу ошибаться?»
➤ «Ответь как жёсткий скептик, который видел сто таких идей и знает, почему они проваливаются. Где это может сломаться о реальность и что необходимо учесть?»
➤ «Не поддерживай меня. Стремись дать наиболее эффективный ответ и помоги увидеть то, чего я НЕ вижу. Назови 3 слепых пятна, о которых я даже не догадываюсь спросить.»
Но есть способ помощнее🙃
Андрей Карпати, один из основателей OpenAI, предложил не верить одной модели, а собирать из нейросетей целый КОНСИЛИУМ.
Этот метод идеально подходит для сложных решений, где нужно увидеть картину с разных сторон.
Ваш вопрос гоняется через несколько разных ИИ-агентов.
Они спорят, критикуют и разносят ответы друг друга. И дают очень интересные выводы 😁
В следующем посте я выложу видео-инструкцию и сам скилл «Консилиум», адаптированный под РФ-реальность.
Сможете мозгоштурмить любые идеи и получать полноценный совет из шести ИИ-агентов с сильной экспертизой.
Очень мощная тема, на себе я уже протестил 🔥
Источник Telegram: dmitriymarketing
Leave a Reply