Концептуальная программная платформа для доверенного искусственного интеллекта: комбинирование больших языковых моделей с формальными логическими системами

В статье исследуется проблема создания надежного искусственного интеллекта на основе больших языковых моделей и p-вычислимых проверяющих процедур. Для этой цели мы представляем концепцию программной платформы для надежной проверки ответов, полученных большими языковыми моделями. Мы фокусируемся на применении этой программной платформы к системам цифровых двойников, особенно для умных городов, где большие языковые модели еще не получили широкого распространения из-за их ресурсоемкости и потенциала галлюцинаций. Принимая во внимание тот факт, что проверка решения из соответствующего набора задач является p-вычислимой и в большинстве случаев менее сложной, чем вычисление и реализация всей задачи, мы представляем методологию, которая использует проверяющие процедуры для оценки достоверности решений, сгенерированных большими языковыми моделями. Эти проверяющие системы реализованы с помощью методологии полиномиального программирования на полных по Тьюрингу языках и гарантируют полиномиальную по времени сложность. Наша система была протестирована на задаче 2-SAT. Наша программная платформа предлагает масштабируемый способ реализации надежных систем искусственного интеллекта с гарантированной полиномиальной сложностью, обеспечивая обнаружение ошибок и предотвращая сбои системы.