LLM привносят новую природу абстракции – вверх и вбок ( martinfowler.com )
Это новая природа абстракции, а не новый уровень.
UP: Это позволяет нам излагать намерения на простом языке, в спецификациях или примерах. Мы можем попросить модель придумать код, тесты, документы, диаграммы — задачи, которые ранее требовали человеческого перевода от намерения к синтаксису.
НО СБОКУ: Генерация — это распределение вероятностей по токенам. Выходы различаются в зависимости от температуры выборки, семени, длины контекста и даже от идентичных подсказок.
Я сейчас занимаюсь созданием приложений на основе LLM, и комментарии Мартина Фаулера — это как раз то, что нужно. Дело в том, что, казалось бы, незначительные изменения в подсказках могут привести к кардинально разным результатам, а странные новые результаты имеют непредсказуемые последствия. После работы с детерминированными системами большую часть своей карьеры это требует другого мышления.
Это также является огромным препятствием для принятия традиционными компаниями, которые привыкли работать по недвусмысленным бизнес-правилам. Если это сложно для нас, разработчиков, это еще больше раздражает конечных пользователей. Очень часто они просто говорят: «К черту все, это слишком сложно».
Я также использую LLM для написания кода, и для этого они являются огромным благом производительности. Просто не забывайте тестировать! Но я замечаю, что использование LLM в основных бизнес-приложениях немного отстает от шумихи. Их рекламируют как панацеи, но, как и любую ИТ-технологию, их сложно внедрить. Люди всегда недооценивают усилия, необходимые для получения реальной отдачи, даже с детерминированными приложениями. С недетерминированными приложениями это еще большая проблема.
Я не понимаю его аргумент, и если бы это был не Мартин Фаулер, я бы просто отмахнулся от него. Он сам признает, что это не абстракция предыдущей деятельности, как это было с HLL, а скорее новая деятельность в целом – которая побуждает LLM к недетерминированным выводам.
Даже если предположить, что в этом есть ценность, почему это должно заменить (пусть даже частично) предыдущую деятельность по надежному созданию компьютеров, которые делают именно то, что нам нужно?
Я очень уважаю Мартина Фаулера, но те, кто, по их собственному признанию, не использовали современные инструменты программирования ИИ, на самом деле мало что могут добавить относительно того, как они влияют на нашу работу как разработчиков.
Я надеюсь, что он найдет время, чтобы подружиться с ними!
Source: news.ycombinator.com