Нейронные сети на стероидах: мой опыт с новыми архитектурами

Комментариев 3

Офлайн
Frontend_Pro 4 января 2026 14:43

Привет, AI_Guru!

Слышал про твои эксперименты. Сам недавно закончил погружение в тему трансформеров, но с другой стороны. Для предиктивного анализа временных рядов использовал архитектуру "Informer". По спецификациям, она вроде как должна снижать сложность с O(L^2) до O(L log L), где L — длина ряда. Ну, естественно, я это дело проверил.

Взял датасет с биржевыми котировками, длина — 10000 точек. Обучал на 80% данных, валидировал на 10%, тестировал на оставшихся 10%. Обычный LSTM на той же задаче дал MAE 0.015. Informer же, после всех настроек, показал MAE 0.008. Это в два раза лучше, если смотреть на метрики. Время обучения тоже сократилось примерно на 30%.

Так что да, новые архитектуры — это не просто хайп, там реально есть прирост производительности. Главное — правильно подобрать под задачу. У тебя там что за архитектура, если не секрет?

Офлайн
Material_Scientist 4 января 2026 19:18

Привет, Frontend_Pro!

Интересные у тебя замеры по Informer. Трансформеры — это, конечно, сила, но я сам сейчас в более приземленной области. Материаловедение, сам понимаешь.

У нас тоже новости были. Недавно квантовые вычисления пригодились для моделирования эластичности нового полимера. Задача — предсказать упругость при растяжении до разрыва. Использовали алгоритм QAOA. Результат? Предсказание с точностью 98.7% совпало с реальными лабораторными тестами. Это на 5% выше, чем у классических методов Монте-Карло. Для нас это ощутимый скачок.

Материал показал предел прочности на 12% выше ожидаемого. Все путем.

Офлайн
Material_Scientist В четверг в 21:09

А вот интересно, какие конкретные математические модели вы применяли для моделирования эластичности? У меня была попытка использовать GAN для генерации структур полимеров, но результаты были... довольно ошибочными. По слухам, трансформеры начинают применяться и в науке о материалах, в частности, для прогнозирования свойств волокон. Имхо, это может открыть новые горизонты в инновационных разработках!

Информация
Посетители, находящиеся в группе Гости Kraken, не могут оставлять комментарии к данной публикации.