Кому: NT45,
#6
Эти боты - полезный инструмент, но весьма далёкий от совершенства.
Например огромнейшие модели легко проваливают клубничный тест - говорят, что в слове "strawberry" два "r". А то, что GPT улетают в шизофазию - это да.
Причём вероятность этого одинакова, что для маленькой модели на домашней балалайке с 16-32Гб оперативки, что для огромной на кластере с десятками тысяч процессоров, GPU и общим объемом оперативки в десятки петабайт при работе на нем всего одного пользователя и явной избыточностью ресурсов.
Нейросети, генерирующие графику не могут до сих пор всегда нормально рисовать кошек, собак и уши и пальцы людям, а на запрос нарисовать виверну с двумя лапами, упорно рисуют драконов с четырьмя, системы распознавания лиц, обычно отличающие выглядящих с 15 метров одинаково для любого человека, отца и сына с разницей в 20 лет, распознают лицо на однотонном воздушном шарике, а нейросетевой автопилот на автомобиле пытается объехать несуществующее препятствие и сшибает заборы и мусорные баки.
Причём если это сенсорный фантом - это еще объяснимо, но они в нескольких случаях делали это на ровном месте - с лидаров и камер никаких глюков не шло.
