«Однажды компьютер обыграл меня в шахматы, но в кикбоксинге мне было не до него».
— Эмо Филипс

  1. Ускорение обучения структуры графа с помощью фиктивных узлов (arXiv)

Автор: Синь Лю, Цзяян Чэн, Янцю Сун, Синь Цзян

Аннотация. С развитием ядер графов и изучением представлений графов было предложено много превосходных методов для решения проблем масштабируемости и чрезмерного сглаживания при изучении структуры графов. Однако большинство этих стратегий разработаны на основе практического опыта, а не теоретического анализа. В этой статье мы используем конкретный фиктивный узел, соединяющий все существующие вершины, не затрагивая свойства исходной вершины и ребра. Далее мы доказываем, что такой фиктивный узел может помочь построить эффективное мономорфное преобразование от ребра к вершине и эпиморфное обратное преобразование для восстановления исходного графа. Это также указывает на то, что добавление фиктивных узлов может сохранить локальные и глобальные структуры для лучшего изучения представления графа. Мы расширяем графовые ядра и графовые нейронные сети с помощью фиктивных узлов и проводим эксперименты по классификации графов и задачам сопоставления изоморфизма подграфов. Эмпирические результаты показывают, что использование графов с фиктивными узлами в качестве входных данных значительно улучшает изучение структуры графа, а использование их графов от ребра к вершине также может привести к аналогичным результатам. Мы также обсуждаем получение выразительной силы от манекена в нейронных сетях.

2. Высокоэффективное структурное обучение разреженных поэтапных деревьев (arXiv)

Автор:Мануэле Леонелли, Герардо Варандо

Аннотация: было определено несколько алгоритмов структурного обучения для поэтапных моделей деревьев, асимметричного расширения байесовских сетей. Однако они не масштабируются эффективно по мере увеличения числа рассматриваемых переменных. Здесь мы представляем первый масштабируемый алгоритм структурного обучения для поэтапных деревьев, который выполняет поиск в пространстве моделей, где может быть наложено лишь небольшое количество зависимостей. Исследование моделирования, а также реальное приложение иллюстрируют наши процедуры и практическое использование таких поэтапных деревьев, полученных на основе данных.

3. Обучение дифференцируемой и переносимой структуре (arXiv)

Автор:Йерун Берревуэтс, Набил Сидат, Фергус Имри, Михаэла ван дер Шаар

Аннотация: нас интересует неконтролируемое структурное обучение с особым упором на направленные ациклические графические (DAG) модели. Вычисления, необходимые для вывода этих структур, обычно являются суперэкспоненциальными по количеству переменных, поскольку вывод требует охвата комбинаторно большого пространства потенциальных структур. То есть, пока недавние достижения не позволяли искать в этом пространстве с помощью дифференцируемой метрики, что резко сокращало время поиска. Хотя этот метод, названный NOTEARS, широко считается основополагающей работой в области открытия DAG, он уступает важному свойству в пользу дифференцируемости: переносимости. В нашей статье мы вводим D-Struct, который восстанавливает переносимость в найденных структурах с помощью новой архитектуры и функции потерь, оставаясь при этом полностью дифференцируемым. Поскольку D-Struct остается дифференцируемой, можно легко применить наш метод в дифференцируемых архитектурах, как это было ранее с NOTEARS. В наших экспериментах мы эмпирически подтверждаем D-структуру в отношении точности краев и структурного расстояния Хэмминга.

4. Структурное обучение для гибридных байесовских сетей (arXiv)

Автор: Ваньчуан Чжу, Нгок Лан Чи Нгуен, Салли Криппс

Аннотация: байесовские сети использовались в качестве механизма для представления совместного распределения нескольких случайных величин гибким, но интерпретируемым образом. Одна из основных проблем при изучении структуры сети заключается в том, как моделировать сети, включающие смесь непрерывных и дискретных случайных величин, известные как гибридные байесовские сети. В этой статье рассматривается литература по подходам к работе с гибридными байесовскими сетями. При работе с гибридными байесовскими сетями обычно используется один из двух подходов: либо считается, что данные имеют совместное многомерное гауссово распределение, независимо от истинного распределения, либо дискретизируются непрерывные случайные величины, что приводит к дискретным байесовским сетям. В этой статье мы показываем, что стратегия моделирования всех случайных величин как гауссовых превосходит стратегию, которая преобразует непрерывные случайные величины в дискретные. Мы демонстрируем превосходную эффективность нашей стратегии по сравнению с последней, теоретически и с помощью моделирования для различных условий. Обе стратегии также применяются к набору данных о детском ожирении. Две разные стратегии приводят к значительным различиям в оптимальных структурах графов, а результаты моделирования показывают, что вывод из стратегии, предполагающей, что все случайные величины являются гауссовыми, более надежен.