NVIDIA, Microsoft Build 2025 etkinliğinde Windows 11 platformu için optimize edilmiş yeni yapay zeka kütüphanesi TensorRT for RTX’i tanıttı. Yeni sistem, bilhassa NVIDIA RTX ekran kartlarında çalışan lokal yapay zeka uygulamalarında yüksek performans sağlamak üzere geliştirildi.
NVIDIA, TensorRT for RTX ile performans artışı sağlayacak
TensorRT for RTX, daha evvel sırf bilgi merkezi teknolojilerinde kullanılan NVIDIA TensorRT sisteminin masaüstü versiyonu olacak. Bu yeni sürüm, bilhassa Windows tabanlı PC’lerde %50’nin üzerinde performans artışı sağlıyor.
Yeni yapay zeka kütüphanesi, bilhassa FLUX-1.dev üzere yeni kuşak üretken yapay zeka modellerini kullanıcı düzeyindeki GPU’larda çalıştırmak için tasarlandı. Ayrıyeten FP4 ve FP8 üzere düşük hassasiyetli sayısal formatları destekleyerek, belleği daha verimli kullanıyor ve daha yüksek süreç hacmine imkan tanıyor.
iOS 19, bataryayı yapay zeka ile optimize edecek!
Apple, iOS 19 sürümünde batarya kullanımını yapay zekayla güzelleştirecek. Bu gelişme, iPhone kullanıcılarını epey sevindirdi.
TensorRT for RTX’in öne çıkan bir özelliği ise çıkarım motorlarının evvelden derlenmesine gerek kalmaması oldu. Model başlatıldığında GPU üzerinde birkaç saniye içinde derleme yapılarak modele mahsus motorlar oluşturulabiliyor.
Bu da ek optimizasyonlar ile birlikte performansta %20’ye kadar ekstra artış sağlıyor. Üstelik sistem, sırf 200 MB boyutunda ve Windows ML aracılığıyla art planda otomatik olarak indirilebiliyor. NVIDIA RTX 5090 üzerinde yapılan testlerde, TensorRT for RTX’in, DirectML’ye kıyasla büyük bir sürat artışı sağladığı görüldü.
Peki siz bu yeni teknoloji hakkında ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmından bizimle kolaylıkla paylaşabilirsiniz.
