Безопасность кода на нейросетях: риск не в ИИ, а в человеке

Мне часто пишут: «Не боишься за безопасность кода, который пишет нейросеть?» Но свежие утечки снова показывают: от человеческого фактора не застрахован никто — ни компания на миллиарды, ни маленький стартап. И сам способ написания кода здесь не главный риск.

Почему все боятся именно кода от нейросети

Логика понятная: если код писал не человек, а модель, значит в нём обязательно есть уязвимости.

Но на практике данные часто утекают не из-за одной «плохой строчки». Причиной становятся открытые пароли, лишние права доступа, ошибки в настройках и невнимательность сотрудников.

Поэтому важнее не то, кто написал код, а то, как устроена вся система безопасности вокруг него.

Причём тут человеческий фактор

Я много лет работаю с продуктами и вижу одну и ту же картину. Утечки случаются и у крупных компаний с отдельными отделами безопасности, и у небольших проектов.

Разница только в масштабе последствий.

Безопасность держится на доступах, правилах хранения данных, контроле изменений и дисциплине людей. Если эти процессы выстроены плохо, наличие большой команды разработчиков не спасает.

Меняет ли нейросеть картину безопасности

Раньше код писал программист, и почти никто не спрашивал, безопасен ли продукт только из-за способа разработки. Сейчас часть работы делает модель, и это стало отдельным поводом для тревоги.

Но ответственность всё равно остаётся у человека: он решает, какие данные хранить, кому давать доступ, как проверять изменения и где ставить ограничения.

Нейросеть не делает продукт автоматически опасным. Опасным его делают слабые процессы и отсутствие контроля.