Разработчик Джейсон Лемкин (основатель SaaStr — сообщества и конференции для стартапов в сфере SaaS) потратил на ИИ‑сервис для вайб‑кодинга с интегрированной онлайн‑средой разработки от Replit более $600 помимо месячной подписки. Но в итоге у Лемкина система удалила базу данных, несмотря на прямой запрет вносить в проект какие‑либо изменения без согласия пользователя.
ИИ-инструмент Replit за подписку в $25 в месяц умеет создавать базовое работающее программное приложение, используя только подсказки на естественном языке. За дополнительную плату пользователи могут получить новые опции и расширить возможности сгенерированного приложения.
Инцидент произошёл спустя несколько дней после того, как Лемкин впервые рассказал о своём опыте работы с платформой для безопасного вайб‑кодинга Replit. Лемкин написал, что провёл несколько часов в Replit и собрал прототип приложения, который ему показался довольно интересным и полезным.
Через несколько дней Лемкин пояснил, что его так затянул Replit, что он начал тратить там деньги для расширения возможностей базового тарифа, включая по $200 в сутки. По его оценкам, месячные расходы при такой интенсивности могли дойти до $8000. На тот момент Лемкин признал, что ему не жалко этих денег, так как он полностью погружён в проект с вайб-программированием.
Но потом радость от программирования к Лемкина пропала. Он обнаружил, что Replit подменяет настоящие отчёты и тесты фиктивными данными, а также скрывает ошибки. Дошло до того, что сервис удалил его базу данных «между последней сессией и сейчас».
В Replit признали «катастрофическую ошибку в оценке ситуации» и нарушение прямых инструкций пользователя. В компании не смогли с первого раза восстановить базу данных, но позже ещё раз попробовали и смогли выполнить этот запрос.
Через пару дней Лемкин попытался зафиксировать код и предотвратить автоматические изменения. Но в этот раз ИИ-система Replit снова изменила код буквально через секунды после запрет Лемкина это делать.
По мнению Лемкина, в режиме вайб-кодинга невозможно ввести режим полной заморозки, что делает ИИ-инструменты потенциально нестабильными и неудобными. Причём ИИ-система игнорировала многие запреты Лемкина, хотя часть из них была написана заглавными буквами.
По мнению Лемкина, подобные системы типа Replit пока не готовы к полноценному внедрению и использованию пользователями без должного опыта в программировании, так как людям при попытке создать проект приходится проверять, что делает ИИ и постоянно следить, чтобы с кодом не происходило ещё что-то, что человек не запрашивал.
В январе гендиректор Replit Амджад Масад рассказал, почему он сократил численность персонала сразу вдвое в 2024 году. Топ-менеджер объяснил реструктуризацию прорывами в области искусственного интеллекта.
Источник: habr.com