Representation bias — певні категорії контенту були недопредставлені у тренувальних даних

Rabbit hole ефекту — алгоритм послідовно поглиблював контент у бік радикальнішого

Cold start проблеми — алгоритм не мав достатньо даних про нових користувачів

Закону Гудхарта — коли метрика стає ціллю, вона перестає бути хорошою метрикою

Фільтр-бульбашки — алгоритм показував лише те, з чим користувач вже погоджувався

Модель фундаментально не розрізняє «інструкцію від системи» і «текст у зовнішньому документі» — обидва є рядками у context window; жодне формулювання промпту не усуває цю властивість архітектури трансформера

Проблема виникає лише при використанні open-source моделей без RLHF; комерційні моделі мають вбудований захист

Сучасні LLM не мають достатньо параметрів для розрізнення між системними інструкціями та даними користувача

Injection атаки працюють лише якщо агент має доступ до інтернету; ізольовані системи є повністю захищеними

Системні промпти у поточних LLM не шифруються і можуть бути прочитані зловмисником через спеціальні запити

Deployment bias — модель використовується для транзакцій за межами географії тренувальних даних

Data drift — розподіл вхідних ознак транзакцій змінився відносно тренувальної вибірки

Prediction drift — розподіл виходів моделі змінився без зміни вхідних даних

Concept drift — змінився сам зв'язок між ознаками і цільовою змінною: нові патерни шахрайства не відповідають тим, на яких навчалась модель

Label drift — змінився розподіл цільової змінної: частка шахрайських транзакцій зросла

Обмежений ризик — система взаємодіє з людьми, тому вимагається лише disclosure що рішення приймає AI

Високий ризик (Annex III) — системи AI у сфері зайнятості та найму; вимоги: реєстрація в EU database, conformity assessment, документація, human oversight і robustness testing до виходу на ринок ЄС

Мінімальний ризик — системи скринінгу резюме не мають юридичних наслідків для кандидатів

Неприйнятний ризик — автоматизований найм порушує права людини і повністю заборонений в ЄС

Регуляція не застосовується до стартапів з менш ніж 50 працівниками та виручкою до €10 млн

High-accuracy моделі частіше галюцинують у медичному домені, оскільки навчені на більших датасетах зі суперечливими даними

Лікарі довіряють AI більше при high-accuracy, бо більший датасет тренування свідчить про ретельнішу валідацію

Висока точність означає, що модель навчена на даних без достатнього представлення рідкісних діагнозів

High-accuracy моделі мають більший розмір і вищу латентність, що обмежує час лікаря на аналіз

Люди, що рідко бачать помилки AI, знижують рівень критичного перегляду — коли помилка таки виникає, людина більше не є ефективним guardrail через вироблену звичку підтверджувати

Колаборативна фільтрація, геолокаційний таргетинг і демографічне профілювання

Reinforcement learning, knowledge graph і sequence modeling

Two-tower архітектура, content-based фільтрація і A/B тестування

Колаборативна фільтрація, NLP-аналіз плейлистів і аналіз аудіо-характеристик треку

NLP-аналіз плейлистів, graph embeddings і transformer-based sequence modeling

Copilot є агентом (виконує задачі автономно), ChatGPT є чат-ботом (лише відповідає на запитання)

Copilot — це копілот-патерн (inline suggestion в контексті роботи без context switch), ChatGPT — чат-патерн (вільний діалог в окремому вікні); вибір патерну визначає тип когнітивного навантаження і цільову аудиторію

ChatGPT підтримує multi-turn діалог, Copilot обробляє лише одиничні запити без збереження контексту

Copilot використовує RAG для пошуку в кодовій базі, ChatGPT генерує відповіді лише з параметричної пам'яті

ChatGPT використовує більш потужну модель, тому якість відповідей вища; Copilot оптимізований на швидкість

Experiment Tracking — системи логування параметрів, метрик і артефактів кожного тренувального запуску (MLflow, Weights & Biases)

Drift detection системи — моніторингу розподілу вхідних даних у production

CI/CD pipeline — автоматизації збірки і деплою нових версій моделі

Feature Store — централізованого сховища ознак для тренування і serving

Model Registry — каталогу версій моделей зі статусами Staging/Production

Оцінку точності моделі на тестовій вибірці до деплою, яку неможливо виміряти без реального трафіку

Поведінку моделі під реальним production-навантаженням: latency регресії, збої на edge cases реального трафіку і зсуви розподілу передбачень, які не виникають на тестових даних

Training-serving skew, який виникає через різне обчислення features у тренуванні і production

Bias за захищеними характеристиками, який проявляється лише на реальних користувачах

Бізнес-метрики (conversion rate, revenue) до того, як нова модель впливає на реальних користувачів

Streaming архітектура з real-time обробкою подій та виділеними warm GPU для inference без cold start

Edge inference — перенесення моделі на пристрій клієнта усуне мережеву латентність

Serverless inference — GPU on-demand дозволить масштабуватись під навантаження

Монолітна архітектура — простота деплою забезпечить найнижчу латентність між компонентами

Мікросервісна архітектура з async черговою обробкою через Kafka