Turkce AI Models and Hardware

Yapay Zeka Modelleri ve Donanım

Voice2Win üç tür model çalışmasını ayırır. Farkı anlamak, yapay zeka (YZ) modeli ve donanım ayarlarını çok daha kolay hale getirir.

İş Yükü	Amaç	Teknoloji
Ana transkripsiyon	Normal dikte, ses komutları, blok transkripsiyon ve yeniden transkripsiyon	Whisper veya Parakeet
Akış transkripsiyonu	Kaydederken çok erken ara sonuçlar	Ayrı Sherpa-ONNX çevrimiçi modeli
YZ İyileştirme	Metni gözden geçirir veya dönüştürür	Dahili Gemma modeli, Ollama, LM Studio veya paylaşılan bir Voice2Win örneği

Parakeet bir ana transkripsiyon motorudur, bir akış modeli değildir.

Whisper veya Parakeet

Whisper

OpenAI Whisper, birçok dilde çok iyi çevrimdışı tanıma sağlar. Daha fazla kaynak kullanır ve genellikle Parakeet'ten daha yavaştır. Büyük modeller ve gerçek zamanlı blok transkripsiyonu için grafik kartı hızlandırması önerilir.

Parakeet

NVIDIA Parakeet V3 çok daha verimlidir ve ana işlemci üzerinde iyi performans gösterir. Whisper kadar hatasız olmayabilir ve daha küçük bir dil setini destekler. Maksimum çok dilli kapsama alanından ziyade hız ve daha düşük kaynak kullanımı daha önemli olduğunda bunu seçin.

AI Modelleri ayarları yalnızca seçili motorun ait olduğu modelleri gösterir. Model dosyalarını indirmek veya kaldırmak için Modelleri Yöneti kullanın. Ana pencerenin Mevcut Model listesi, sonra indirilmiş modeller arasında seçim yapar.

Çalışma Zamanı Ataması

Ana işlemci (CPU) / grafik kartları (GPU) ve AI Model Atama tablosu, Ses Transkripsiyonu ve AI Geliştirmeyi bağımsız olarak atar.

• Ana işlemci (CPU) en uyumlu seçenek olup daha yavaş olabilir.
• Grafik kartı (GPU), desteklenen iş yüklerini hızlandırır ve seçilen iş yükü muhtemelen yavaşsa veya yeterli grafik belleği yoksa performans uyarısı gösterir.
• Ollama veya LM Studio, yerel sunucudan AI Geliştirme sağlayabilir. Sunucunun host ve portunu girin, istenirse yerel Internet Protocol sürüm 4 (IPv4) ağını arayın, model listesini yenileyin ve bildirilen bir modeli seçin.
• Paylaşılan Voice2Win örneği, başka bir bilgisayardan ses transkripsiyonu, AI Geliştirme veya her ikisini birden sağlayabilir.

Bir çalışma zamanı değiştirmek, etkilenen modeli arka planda yeniden yükler ve biraz zaman alabilir.

Platforma göre Hızlandırma

• Whisper ve yerleşik AI Geliştirmesi, Windows ve Linux üzerinde Vulkan grafik hızlandırmasını kullanır; macOS kendi yerel grafik yolunu kullanır.
• Parakeet ve Windows akış transkripsiyonu, grafik hızlandırması için DirectML kullanır.
• Ana işlemci, bir yedek olarak kullanılabilir durumda kalır.

Voice2Win, paket boyutları nedeniyle CUDA çalışma zamanlarını kasıtlı olarak dahil etmez. Vulkan veya DirectML desteğine sahip güncel bir grafik sürücüsü, CUDA'yı ayrı olarak yüklemekten daha önemlidir.

Bellek planlaması

Konuşma ve AI modelleri aynı anda bellekte bulunabilir. Bunların birleşik bellek gereksinimi önemlidir:

• Ayrılmış grafik belleği yetersizse, daha küçük veya daha güçlü kuantize modelleri seçin.
• Bir iş yükünü ana işlemciye, diğerini ise grafik kartına atayın.
• Uyarı tahminleri mevcut sistem veya grafik belleği aşan bir modeli yüklemek; Yoğun sayfalama tüm bilgisayarı tepkisiz hale getirebilir.
• Disk kapasitesi bellek yerine kısıtlama olduğunda alternatif yapay zeka modeli depolama konumunu kullanın.

Harici yapay zeka sunucuları

Ollama varsayılan olarak port 11434'a geçer; LM Studio varsayılan olarak port 1234'a geçer. Voice2Win, seçilen sunucunun model listesini sorgular ve iyileştirme istemlerini yalnızca o yapılandırılmış sunucuya gönderir. Sunucu erişilebilirliği, gizlilik ve model davranışı o sunucu kurulumunun sorumluluğundadır.

Voice2Win çalışma süresini paylaşıyorum

Bir Voice2Win bilgisayarı, şu anda yüklü olan konuşma ve AI modellerini diğer Voice2Win örneklerine açabilir:

1. Ayarlar → AI Modelleri bölümünde, çalışma zamanı paylaşımını etkinleştirin.
2. Bir port seçin ve isteğe bağlı olarak bir parola belirleyin.
3. Diğer bilgisayarda, paylaşılan bir Voice2Win örneği ekleyin, bilgisayar adını veya IPv4 adresini, portu ve parolayı girin ya da yerel ağı arayın.
4. Ses Transkripsiyonu ve/veya AI Geliştirmeyi uzak satıra atayın.

Bağlı istemciler ve son kullanım bilgileri paylaşım yapılan bilgisayarda gösterilir. Sürümleri hizalı tutun; sürüm uyumsuzluğu uyumluluk sorunlarına yol açabilir. Kendisi bir paylaşılan çalışma zamanını kullanan bir örnek o çalışma zamanını başka bir yere paylaşamaz.

Bu özellik, yapılandırılmış ağ bağlantısı üzerinden iş yükü verilerini gönderir. Başka kullanıcıların porta erişebileceği durumlarda, güvenilir bir ağ ve parola kullanın.