Выдумки ИИ это не просто шутка или особенность, видимо это уже неотъемлемая часть работы с ИИ, с которой придётся считаться.
Не доверять ни единому слову. Отталкиваться от важности самой задачи, а также от цены ошибки. Чем больше цена ошибки, тем лучше перепроверять — проводить критические аудиты предложенного решения и проводить атаки на него ПЕРЕД реализацией. А также обязательно критический аудит проделанной работы СРАЗУ ПОСЛЕ реализации. Секрет в том, чтобы повторять итерации после исправления, если нашлось хотя бы что-то критичное.
Ну и главное — это даже не надеяться устранить эти "выдумки". Никакими промптами это не убирается, уже проверено сотни раз. Нужно иметь это ввиду и не оставлять для таких выдумок никакого места.
@gpt_spark_ru
