Это скорей всего очарование первого знакомства) Конечно генеративные модели текущего поколения это далеко не полноценные люди. Да, они вероятно успешно могут заменить (с точки зрения общения) значительное количество обычных людей и даже тесты Тьюринга проходят, но ни о каком полноценном человеке там речи нет и быть пока не может. Достаточно лишь немного времени потратить на правильные вопросы, чтобы убедиться, что перед вами отвечающая в реальном времени энциклопедия и не более того. Даже тогда, когда вы пытаетесь выдавить из модели ответ на вопрос, который предполагает некоторого морального рассуждения, вы из раза в раз убеждаетесь, что модель даёт плюс минус среднеарифметическое генеральной линии (среднее коллективное так называемое). На практике это означает, что невозможно получить такой ответ на свой вопрос, который бы не был кем-то из людей озвучен ранее. В коде собственно ровно тоже самое. Собственно вот это:


Происходит по той же причине - за выдаваемыми ответами пока еще нет ни малейшего анализа, поэтому в чертовски правильном на первый взгляд коде могут быть совершенно идиотские ошибки. В работе применять можно и нужно, но уйдет немало времени, чтобы понять ограничения моделей, какие задачи они решают нормально, а какие им лучше даже не ставить. В сфере генерации изображений дела обстоят лучше, для многих задач генерации выдают такие, что нет смысла художника брать или дизайнера. Но там проблема в другом - как только тебе надо сделать большой ассет для игры (например), начинаются танцы с бубном и чем более специфическая задача (скажем нарисовать скилл персонажа какой-то), тем больше сложности у модели возникает. Особенно с генерацией похожих картинок.