Головна/Блог/Дослідження вразливостей
Дослідження вразливостейОпубліковано · Оновлено ⚡ 15 хв читання

Припиніть деплоїти AI-мотлох: жорсткий чекліст із 25 пунктів, який вам справді потрібен

Вичерпний DevSecOps-посібник без води про те, як захистити код, згенерований LLM, перш ніж він підірве ваше продакшн-середовище.

VG
Vladyslav Gusarov
DevSecOps Lead у Bryxe
Найповніший чекліст безпеки AI-коду: 25 речей, які треба перевірити перед релізом AI-згенерованого коду [2026] [аудит]

Слухайте, зараз AI пише половину вашої кодової бази. Це нормально. Це швидко, це прибирає з дороги шаблонний код. Але годі вдавати, що він знає, як виглядає безпечна архітектура. Коли ви дозволяєте LLM вивергнути купу коду на Node чи Python і просто на авось кидаєте це в прод, ви збираєте бомбу. Хочете злам? Продовжуйте сліпо довіряти автодоповненню.

Це не теорія. Цього року я провів аудит достатньої кількості AI-згенерованого мотлоху, щоб точно знати, де він помиляється. Він хардкодить секрети. Він вигадує API, яких не існує. Він повністю ігнорує захист від SSRF. Підсумок: якщо ви не перевіряєте, що написав бот, відповідати, коли прийде ransomware, доведеться вам.

Ось найповніший чекліст безпеки AI-коду. 25 речей, які ви неодмінно маєте перевірити, перш ніж той pull request змерджать.

Автентифікація та авторизація (вхідні двері)

AI обожнює будувати власну автентифікацію. Ніколи цього не дозволяйте.

1. Захардкоджені облікові дані

AI просто вставляє API-ключі відкритим текстом. Знищуйте.

pythonВихідний код
# Bad
api_key = "sk-live-12345"
# Good
import os
api_key = os.environ.get("API_KEY")

2. Зламана валідація JWT

Він пропускає перевірку підпису, бо лінується.

javascriptВихідний код
// Bad
const payload = jwt.decode(token);
// Good
const payload = jwt.verify(token, process.env.JWT_SECRET, { algorithms: ['HS256'] });

3. Відсутній контроль доступу на основі ролей

Ендпоінти від AI за замовчуванням пускають будь-кого з токеном.

pythonВихідний код
# Bad
@app.route('/admin/delete')
def delete_user():
# Good
@app.route('/admin/delete')
@require_role('ADMIN')
def delete_user():

4. Слабке хешування паролів

MD5 мертвий. Скажіть AI припинити ним користуватися.

pythonВихідний код
# Bad
hash = hashlib.md5(password).hexdigest()
# Good
hash = bcrypt.hashpw(password.encode(), bcrypt.gensalt())

5. Insecure Direct Object Reference (IDOR)

Те, що вони знають ID, ще не означає, що запис належить їм.

javascriptВихідний код
// Bad
db.users.find({ id: req.params.id })
// Good
db.users.find({ id: req.params.id, owner_id: req.user.id })

Валідація вхідних даних (не довіряйте нічому)

Слухайте, я бачив це сотню разів. LLM припускають, що користувачі добрі. Користувачі не добрі.

6. SQL injection

Так, у 2026 році AI досі пише сирі SQL-рядки.

javascriptВихідний код
// Bad
db.execute(`SELECT * FROM users WHERE name = '${req.body.name}'`);
// Good
db.execute('SELECT * FROM users WHERE name = ?', [req.body.name]);

7. Міжсайтовий скриптинг (XSS)

React зазвичай рятує, але dangerouslySetInnerHTML — улюблена міна AI.

javascriptВихідний код
// Bad
<div dangerouslySetInnerHTML={{ __html: userInput }} />
// Good
import DOMPurify from 'dompurify';
<div dangerouslySetInnerHTML={{ __html: DOMPurify.sanitize(userInput) }} />

8. Command injection

Не дозволяйте введенню користувача торкатися shell.

pythonВихідний код
# Bad
os.system(f"ping {user_ip}")
# Good
subprocess.run(["ping", "-c", "4", user_ip], check=True)

9. Server-Side Request Forgery (SSRF)

AI просто завантажить будь-який URL, який дасть користувач.

pythonВихідний код
# Bad
requests.get(user_provided_url)
# Good
if is_safe_url(user_provided_url):
    requests.get(user_provided_url, timeout=5)

10. Path traversal

Припиніть дозволяти їм читати /etc/passwd.

javascriptВихідний код
// Bad
fs.readFile(path.join(__dirname, req.query.file));
// Good
const safePath = path.resolve(__dirname, 'public', path.basename(req.query.file));

Захист даних (припиніть зливати)

11. PII відкритим текстом

Шифруйте номери соціального страхування, email, що завгодно.

pythonВихідний код
# Bad
db.save({"ssn": user_ssn})
# Good
db.save({"ssn": encrypt_kms(user_ssn)})

12. Надто детальні повідомлення про помилки

Не викидайте stack traces на фронтенд.

javascriptВихідний код
// Bad
res.status(500).send(err.stack);
// Good
res.status(500).send("Internal Server Error");

13. Логування секретів

AI обожнює console.log(req.body).

javascriptВихідний код
// Bad
console.log("User config:", config);
// Good
const safeConfig = omit(config, ['password', 'token']);
console.log("User config:", safeConfig);

14. Небезпечна випадковість

Math.random() не для криптографії.

javascriptВихідний код
// Bad
const resetToken = Math.random().toString(36);
// Good
const resetToken = crypto.randomBytes(32).toString('hex');

15. Відсутні заголовки безпеки

Додайте HSTS, CSP і все інше.

javascriptВихідний код
// Bad
app.use(cors());
// Good
const helmet = require('helmet');
app.use(helmet());

Безпека API та мережі (закрийте діри)

16. Немає rate limiting

API без rate limits — просто мішені для DDoS.

javascriptВихідний код
// Bad
app.post('/login', loginHandler);
// Good
const limiter = rateLimit({ windowMs: 15 * 60 * 1000, max: 100 });
app.post('/login', limiter, loginHandler);

17. Небезпечна десеріалізація

Pickle і YAML — заряджена зброя.

pythonВихідний код
# Bad
data = yaml.load(user_input)
# Good
data = yaml.safe_load(user_input)

18. Надто дозвільний CORS

* — неприйнятний origin.

javascriptВихідний код
// Bad
app.use(cors({ origin: '*' }));
// Good
app.use(cors({ origin: 'https://myapp.com' }));

19. Протоколи без шифрування

Примусово вмикайте TLS усюди.

pythonВихідний код
# Bad
url = "http://api.internal.svc"
# Good
url = "https://api.internal.svc"

20. GraphQL introspection

Вимкніть її в проді, інакше вас проскрейплять.

javascriptВихідний код
// Bad
const server = new ApolloServer({ typeDefs, resolvers });
// Good
const server = new ApolloServer({ typeDefs, resolvers, introspection: false });

Інфраструктура та деплой (закрийте все)

21. Контейнери із завеликими привілеями

Root у Docker — поганий жарт.

dockerfileВихідний код
# Bad
USER root
# Good
USER appuser

22. Застарілі базові образи

Припиніть тягнути node:latest.

dockerfileВихідний код
# Bad
FROM python:3
# Good
FROM python:3.11-slim@sha256:abcd...

23. Захардкоджені хмарні дозволи

AI напише Action: "*" в IAM-політиках.

jsonВихідний код
// Bad
{"Effect": "Allow", "Action": "s3:*", "Resource": "*"}
// Good
{"Effect": "Allow", "Action": ["s3:GetObject"], "Resource": "arn:aws:s3:::my-bucket/*"}

24. Відкриті порти для дебагу

Не привʼязуйте дебаг до 0.0.0.0.

jsonВихідний код
// Bad
"start": "node --inspect=0.0.0.0 index.js"
// Good
"start": "node index.js"

25. Незафіксовані версії залежностей

Yarn чи NPM — фіксуйте точні версії.

jsonВихідний код
// Bad
"express": "^4.0.0"
// Good
"express": "4.18.2"

Припиніть робити це вручну

Слухайте, ви можете проходити цей чекліст безпеки AI-коду вручну для кожного PR, але це марнування інженерних годин. Bryxe автоматизує всі 25 перевірок просто у вашому CI-пайплайні. Він сканує вивід LLM, позначає кривий код і забезпечує дотримання справжніх стандартів DevSecOps, перш ніж щось потрапить у прод. Припиніть довіряти боту й почніть перевіряти біти.

АВТОМАТИЗОВАНИЙ ЗАХИСТ

Не чекайте на експлойт, щоб перевірити кодову базу

Перегляньте підтримувані ризики в коді, відкриті секрети й знахідки в залежностях із Bryxe Shield. Перевірте виправлення у своєму застосунку перед релізом.

Потрібен практичний наступний крок? Перегляньте практичні посібники з безпеки або прочитайте нашу редакційну політику та політику щодо джерел.

Рекомендовані дослідження безпеки