FlashSinkhorn 2 ile GPU'larda Optimal Transport Problemleri Daha Hızlı Çözülüyor
Optimal transport teorisi, makine öğrenmesi ve veri analitik alanlarında giderek daha önemli hale gelirken, hesaplamalı maliyeti büyük bir engel oluşturuyor. ArXiv’de yayınlanan yeni FlashSinkhorn 2 (FS2) çalışması, bu zorluk üzerine pratik bir çözüm sunuyor.
Entropi tabanlı optimal transport (EOT) problemlerini çözmek için tasarlanmış yeni solver’ın temel özellikleri şöyle:
- İki aşamalı yaklaşım kullanarak GPU belleğini daha verimli kullanır ve tüm nokta çiftlerinin değerlendirilmesini önler
- Düşük boyutlu nokta bulutlarında kare-Öklidyen mesafe kullanarak büyük ayrık EOT problemlerini belirli bir hata toleransı içinde çözer
- Hücre merkezli bir kaba aşama ile başlayarak hesaplamanın ağır kısmını ön-işlemden çıkarır
- Tek bir GPU’da çalışabilmesi sayesinde ekstra donanım yatırımı gerektirmez
- Önceki FlashSinkhorn versiyonunun tüm n×m nokta çiftlerini her iterasyonda işlemesi gerektiği sınırlamasını aşar
Sinkhorn algoritması, optimal transport problemlerinin iteratif çözümü için standart yöntem olmuştur. Ancak büyük ölçekli uygulamalarda, yoğun çekirdek matrisinin depolanması ve işlenmesi ciddi bellek sorunlarına yol açmaktadır. FlashSinkhorn 2, blok-seyrek yapıyı (block-sparse structure) akıllıca kullanarak bu sorunu hafifletir.
Araştırma, özellikle makine öğrenmesi uygulamalarında veri dağıtımı öğrenme, Wasserstein tabanlı kaybı hesaplama ve etkin beyin haritalaması gibi alanlarda pratik sonuçlar sunacak potansiyele sahip. GPU’ların paralelleştirme gücünü daha akıllıca kullanan bu tür algoritmalar, yapay zeka araştırmacılarının daha büyük ve karmaşık problemlerle çalışmasını mümkün kılacak.