Ошибки нейросетей – не повод для шуток, а список правил, которые мы не записали
Habr ·
Привет, Хабр! Меня зовут Дмитрий Старов, я руковожу департаментом «Инструменты и технологии разработки» в компании «Диасофт». В профессии я уже 28 лет, и все эти годы честно работал в том, что про себя называю «цехом». Цех – это мы с вами: разработчики, аналитики, тестировщики, архитекторы. За десятилетия мы выстроили для себя очень удобный мир. В этом мире – свой язык, свои ритуалы и своя сложность, в которой со стороны никто не разбирается. Человек из бизнеса смотрит на схему наших микросервисов и хватается за голову, а мы понимающе киваем: так и задумано. Внутри – интересно, комфортно. А остальное человечество давно привыкло к простому правилу: хочешь что-то автоматизировать, иди на поклон к ИТ. Когда в этот наш мир пришли нейросети, которые пишут код, цех отреагировал так, как реагирует любое сообщество на угрозу. В профессиональных чатах обмен практиками сменился обменом анекдотами. Жанр узнаваемый: то модель выдумает метод, которого нет ни в одной библиотеке, то ассистент уверенно починит падающий тест, закомментировав проверку, то агент с правами на прод распорядится ими по-своему. Подтекст у всех историй один: «хрень это все, ИИ-разработка, этот модный вайб-кодинг скоро помрет». Я читал эти чаты, в том числе на тг-канале «Департамент разработки» . Над какими-то особенно прикольными случаями и сам посмеялся. Но уже тогда для себя решил, что ИИ пришел надолго, если не навсегда. И вопрос не в том, ошибается ли модель, а в том, как с этим жить и как этим управлять. Как сказал кто-то из классиков, если что-то нельзя предотвратить – это нужно возглавить. В итоге, в результате переосмысления подходов, в последний год я практически перестал заглядывать в сгенерированный код. Не потому, что махнул рукой: проверять теперь приходится другое – спецификацию, тесты и то, что система в итоге делает. Читать далее