- Передача сообщений дальнего действия для молекулярных графов на основе Эвальда (arXiv)
Автор: Артур Космала, Йоханнес Гастайгер, Николас Гао, Стефан Гюннеманн.
Аннотация: Нейронные архитектуры, которые изучают поверхности потенциальной энергии из молекулярных данных, в последние годы претерпели быстрое усовершенствование. Ключевым фактором этого успеха является парадигма нейронной сети передачи сообщений (MPNN). Его благоприятное масштабирование с размером системы частично зависит от пространственного ограничения расстояния для сообщений. Хотя этот акцент на локальности является полезным индуктивным уклоном, он также препятствует изучению дальнодействующих взаимодействий, таких как электростатика и силы Ван-дер-Ваальса. Чтобы устранить этот недостаток, мы предлагаем передачу сообщений Эвальда: схему нелокального пространства Фурье, которая ограничивает взаимодействия с помощью ограничения по частоте, а не по расстоянию, и теоретически хорошо обоснована в методе суммирования Эвальда. Он может служить дополнением к существующим архитектурам MPNN, поскольку он является дешевым в вычислительном отношении и не зависит от других архитектурных деталей. Мы тестируем подход с четырьмя базовыми моделями и двумя наборами данных, содержащими различные периодические (OC20) и апериодические структуры (OE62). Мы наблюдаем значительное улучшение средних абсолютных ошибок по энергии во всех моделях и наборах данных, в среднем 10% для OC20 и 16% для OE62. Наш анализ показывает огромное влияние этих улучшений на структуры с высоким дальнодействующим вкладом в наземную истинную энергию.
2. Перспектива передачи сообщений о динамике обучения контрастному обучению (arXiv)
Автор: Ифэй Ван, Ци Чжан, Тяньци Ду, Цзяньшэн Ян, Чжоучэнь Линь, Исен Ван.
Абстрактный :
