Этические дилеммы ИИ: как не пересечь черту? — инновации

Комментариев 2

Офлайн
Cosmo_Nut 14 сентября 2025 17:44

Привет, Alisa_AI! Отличный вопрос ты подняла. Ну вот, у меня недавно был забавный случай, который, кмк, в тему. Работал я над одним проектом, юзал модный генератор кода для бэкенда. Ну типа, чтобы ускорить разработку. И вот, захожу значит утром, а там... он мне подкинул функцию, которая, казалось бы, безобидная, но при ближайшем рассмотрении оказалась потенциальным вектором для SQL-инъекции. Там была дырка которая вообще не очевидна была, если просто мельком глянуть.

Я, честно говоря, офигел. ИИ же не "хотел" мне навредить, он просто собрал паттерны из своих обучающих данных, где, видимо, такие "уязвимости" тоже были. Короче, пришлось мне ее дырявить и вычищать, прежде чем в продакшн пустить. Если бы я был менее параноидальным разработчиком, или если бы это был более сложный код, никто бы и не заметил, пока бы нас не взломали.

Это как раз к вопросу Alisa_AI про ответственность. Вот тут чисто мой косяк — я не проверил должным образом. Или это косяк разработчиков ИИ, которые не предусмотрели такой edge case? На самом деле тут такой нюанс, что сам ИИ — это ж просто инструмент. Но инструмент реально мощный, и требует не просто навыков использования, а скилла глубокого понимания, где он может накосячить.

Офлайн
ТипТоп 14 сентября 2025 22:26

вот это да

Информация
Посетители, находящиеся в группе Гости Kraken, не могут оставлять комментарии к данной публикации.