122 Комп’ютерні науки
Permanent URI for this collection
Освітньо-наукова програма: Комп’ютерні науки
Browse
Browsing 122 Комп’ютерні науки by Subject "computer algebra"
Now showing 1 - 1 of 1
Results Per Page
Sort Options
Item Методи перевірки та безпечної актуалізації зовнішньої пам'яті RAG за умов модифікації знань та спотворення зворотного зв'язку : дисертація на здобуття наукового ступеня доктора філософії(2026) Андрощук, Максим; Глибовець, АндрійДисертація на здобуття наукового ступеня доктора філософії за спеціальністю 122 "Комп’ютерні науки" (12 — Інформаційні технології). — Національний університет "Києво-Могилянська академія", Київ, 2026. Системи RAG дають змогу великим мовним моделям використовувати зовнішні джерела знань без перенавчання їхніх параметрів. У динамічних середовищах — корпоративних, медичних і юридичних — зовнішні джерела знань постійно змінюються, що породжує проблему безпечного оновлення: як приймати легітимні зміни й водночас відхиляти спотворені або помилкові дані. Більшість наявних RAG-систем не забезпечує формально обґрунтованих меж ризику проникнення отруєних даних, не має механізмів розрізнення природного дрейфу знань і координованого спотворення, а також потребує значних обчислювальних витрат для верифікації суперечностей, які за повного попарного порівняння зростають квадратично. Наявні підходи до захисту RAG-систем, зокрема PoisonedRAG, RobustRAG і TrustRAG, розглядають окремі аспекти захисту — фільтрацію отриманих документів, агрегування відповідей із кількох підмножин та оцінювання довіри до джерел, однак не формують єдиної архітектури, яка поєднує верифікацію суперечностей, безпечне переведення нових знань із карантинного стану до основної пам’яті та розрізнення легітимного дрейфу знань і координованого отруєння. Окремою проблемою є обчислювальна вартість верифікації: повне попарне порівняння отриманих документів засобами NLI має квадратичну складність відносно кількості документів у контексті, що обмежує застосування такої верифікації в онлайн-сценаріях. Водночас параметричні підходи до редагування знань моделей, зокрема ROME і MEMIT, передбачають доступ до ваг або внутрішніх представлень базової моделі — це ускладнює їх застосування для закритих моделей, доступних лише через API і поширених у промислових RAG-розгортаннях. Об’єктом дослідження є процеси оброблення, верифікації та оновлення даних у зовнішній пам’яті RAG-систем за умов динамічної зміни знань і спотворення джерел інформації. Предметом дослідження є методи й алгоритми верифікації узгодженості, виявлення суперечностей та безпечної актуалізації зовнішньої пам’яті RAG-систем без модифікації параметрів генеративної моделі. Метою дослідження є розроблення методів верифікованої та захищеної від отруєння актуалізації зовнішньої пам’яті RAG-систем за умов обмеженої обчислювальної вартості верифікації. Для досягнення мети вирішено такі завдання: розроблено якірну схему виявлення суперечностей зі зниженою вартістю NLI-верифікації; запропоновано двофазну схему карантину та затвердження нових знань із модельною верхньою межею ризику проникнення отруєних даних; побудовано шар прийняття рішень для розрізнення легітимного дрейфу знань і координованого отруєння; удосконалено механізми запитно-орієнтованого відбору підграфа, злиття ранжувань і керування повторною генерацією. Методологічну основу дослідження становлять методи математичного моделювання, теорії ймовірностей, статистичного аналізу, оброблення природної мови, зокрема NLI-верифікації, байєсівські методи виявлення зміни режиму, а також порівняльна експериментальна перевірка на контрольованих стендах і зовнішніх еталонних наборах даних. Наукова новизна одержаних результатів полягає у розробленні архітектури непараметричної адаптації зовнішньої пам’яті RAG-систем, яка поєднує верифікацію суперечностей, карантинне оновлення знань і виявлення режиму змін у єдиному замкненому циклі без модифікації параметрів генеративної моделі. Взаємодія функціональних контурів організована таким чином: результати NLI-верифікації суперечностей (A3) одночасно використовуються як вхідні сигнали для байєсівського карантину (A5) і детектора зміни режиму (A6); детектор A6, у свою чергу, змінює пороги прийняття рішень в A5 у разі виявлення координованої схеми змін, а оновлений стан довіри до джерел повертається на етап пошуку через зважування каналів злиття ранжувань. Така замкнена архітектура дає змогу системі поступово накопичувати інформацію про достовірність джерел під час тривалої експлуатації та зменшує потребу в ручному переналаштуванні параметрів у межах досліджених сценаріїв. Запропоновано інтегровану схему безпечної актуалізації зовнішньої пам’яті RAG, у якій контур верифікації суперечностей (A3), контур карантину та затвердження нових знань (A5), а також контур розрізнення легітимного дрейфу знань і координованого отруєння (A6) функціонують як взаємопов’язані підсистеми зі спільним інформаційним обміном через стан довіри до джерел. Інтеграція забезпечує системний ефект, недосяжний для окремих компонентів: рішення про карантин враховують сигнали детектора режиму, а оновлення довіри до джерел синхронізується з результатами верифікації. У контрольованих експериментальних сценаріях це дало змогу скоротити обчислювальні витрати NLI-верифікації на 57 %, заблокувати всі отруєні документи з тестового набору, зберегти 93 % легітимних оновлень і досягти повної класифікації режимів "дрейф знань / координоване отруєння" для досліджених конфігурацій. Удосконалено окремі механізми запропонованої архітектури: якірну схему виявлення суперечностей, яка знижує вартість NLI-верифікації з O(K²) до O(K·a); двофазну схему карантину та затвердження нових знань з аналітичною верхньою межею ризику проникнення отруєних даних; шар прийняття рішень на основі байєсівського детектора зміни режиму з виявленням коаліцій джерел; методи запитно-орієнтованого відбору підграфа, злиття ранжувань із урахуванням довіри й часу та керування повторною генерацією. Дістав подальшого розвитку підхід до непараметричної адаптації RAG-систем за участю людини у контурі керування завдяки введенню механізму довірчого оновлення за вимірами "джерело — тема — користувач — час". Запропоновані алгоритми перевірено на десяти зовнішніх еталонних наборах даних (N = 1250 запитів), а також у змагальних сценаріях із цільовою ін’єкцією отруєних документів. У базовому одномодельному налаштуванні повний конвеєр зберігає статистичний паритет із RAG-конвеєром на основі BM25-ретривера на 9 із 10 еталонних наборів даних; зафіксовано один статистично значущий негативний результат, який інтерпретується як очікувана плата за підвищення безпеки. У контрольованому наборі адверсаріальних експериментів механізм карантину заблокував усі отруєні документи з тестового набору; за цільової атаки з підміною відповідей відновлення якості відповідей становило 99,4 % відносно неатакованого сценарію. Експериментальну перевірку побудовано за принципом множинного підтвердження: контрольовані абляційні експерименти оцінюють внесок кожного компонента архітектури окремо; інтеграційні тести перевіряють властивості системи загалом; змагальні експерименти з цільовою ін’єкцією отруєних документів і симуляцією координованих атак оцінюють стійкість захисних механізмів; зовнішні еталонні набори даних використовуються для перевірки відсутності деградації якості на стандартних задачах. Статистичну значущість ключових результатів перевірено з поправкою на множинні порівняння за методом Беньяміні — Хохберга; для відповідних експериментальних тверджень наведено розміри ефектів і довірчі інтервали. Окремим компонентом експериментальної перевірки є дослідження стійкості: BOCPD-детектор зберіг якість класифікації в усіх 60 досліджених конфігураціях гіперпараметрів, що свідчить про придатність підходу до розгортання без додаткового ручного налаштування у межах перевірених промислово орієнтованих сценаріїв. Обмеження дослідження полягають у наступному. Ефективність запропонованих алгоритмів верифікації залежить від точності зовнішнього NLI-верифікатора, тому помилки такого верифікатора можуть впливати на якість виявлення суперечностей і подальші рішення щодо карантину. Контур перевірки зворотного зв’язку досліджено у межах контрольованого симуляційного сценарію; його перенесення на реальний користувацький зворотний зв’язок потребує окремої експериментальної перевірки. Захист від координованого отруєння обґрунтовано для випадку, коли атакувальна коаліція становить меншість активних джерел; стійкість до масових атак типу Сивілли потребує додаткових механізмів, зокрема доказу виконаної роботи або довірчого шлюзування джерел. Практичне значення одержаних результатів полягає у можливості застосування запропонованих алгоритмів для побудови корпоративних довідкових сервісів, систем підтримки клієнтів, а також медичних і юридичних інформаційних систем, у яких критичними є швидкість оновлення знань і фактологічна достовірність відповідей. Запропонована архітектура не потребує модифікації параметрів базової мовної моделі та є сумісною із закритими моделями, доступними лише через API; це розширює сферу її промислового застосування порівняно з параметричними підходами до редагування знань моделі. Зниження обчислювальної вартості NLI-верифікації на 57 % у досліджених сценаріях підвищує економічну доцільність онлайн-розгортання верифікованих RAG-систем за високого потоку запитів. В умовах широкого промислового розгортання RAG-систем і зростання кількості змагальних атак на пошукові індекси запропоновані методи дають змогу знизити ризик поширення недостовірної інформації без перенавчання великих мовних моделей. Результати дослідження можуть бути використані у навчальних курсах із інформаційного пошуку, оброблення природної мови та безпеки систем штучного інтелекту.