Нейросимволический анализ: как обучить ИИ искать ошибки в библиотеках глубокого обучения

В новой работе представлена методика, использующая возможности больших языковых моделей и символьного исполнения для автоматизированного поиска уязвимостей в коде, используемом для создания нейросетей.




![Система аттестации свойств, основанная на PAL∗M, взаимодействует с ненадежными компонентами [latex]Prv[/latex], сохраняющими входные данные на диск, после чего PAL∗M считывает и измеряет эти данные, выполняет операции, включая использование GPU, и измеряет все выходные данные CPU и GPU, расширяя все измерения до [latex]REPORTDATA[/latex], которые затем используются в качестве входных для получения [latex]TDREPORT[/latex] от модуля TDX, после чего генерируется [latex]QUOTE[/latex] посредством вызова анклава цитирования (QE) и возвращается компоненту [latex]Inr[/latex].](https://arxiv.org/html/2601.16199v1/figs/lpp-system-2.png)
