Lokalne dyktowanie Whisper dla systemu Windows z przyspieszoną transkrypcją GPU
VoZii transkrybuje mowę lokalnie, używając Whisper OpenAI poprzez whisper.cpp, wstawiając tekst w kursorze w dowolnej aplikacji Windows. haZii.org publikuje to narzędzie Windows z myślą o prywatności jako przenośny plik wykonywalny. Kluczowe funkcje obejmują przyspieszenie GPU (CUDA i Vulkan), globalne skróty klawiszowe push-to-talk oraz opcjonalne przetwarzanie post-hoc Ollama dla gramatyki i formatowania. Narzędzie jest odpowiednie dla pisarzy, programistów i użytkowników z potrzebami w zakresie dostępności, którzy preferują lokalne przetwarzanie modeli i bezpośrednie wstawianie tekstu zamiast usług w chmurze.
Co tak naprawdę robi VoZii w ramach pracy na komputerze?
VoZii uruchamia modele Whisper lokalnie przez whisper.cpp i wpisuje transkrybowany tekst w aktywnym oknie w pozycji kursora, dzięki czemu dyktowany tekst pojawia się w edytorach, przeglądarkach lub aplikacjach czatowych bez zmiany kontekstu. Aplikacja jest dostarczana jako pojedynczy przenośny 64-bitowy plik wykonywalny i oferuje globalny skrót klawiszowy w trybie naciśnij, aby mówić lub przełączania, aby kontrolować, kiedy dźwięk jest rejestrowany.
Czy VoZii wpływa na wydajność systemu podczas transkrypcji?
Aplikacja może działać na systemach tylko z CPU, ale jest specjalnie zaprojektowana do korzystania z akceleracji GPU za pomocą CUDA dla NVIDIA lub Vulkan dla AMD i Intel, co zmniejsza opóźnienie transkrypcji w porównaniu z przetwarzaniem CPU. Ponieważ wykorzystuje lokalny sprzęt do wnioskowania modelu, mierzalny wpływ zależy od tego, czy system kieruje wnioskowanie modelu do GPU czy CPU; maszyny wyposażone w GPU będą widziały szybsze, niemal rzeczywiste wpisywanie tekstu.
Czy VoZii jest bezpieczne dla wrażliwego dźwięku i odpowiednie dla regularnych przepływów pracy?
VoZii wykonuje rozpoznawanie lokalnie po początkowym pobraniu modelu, więc żaden dźwięk nie jest wysyłany do zewnętrznych serwerów podczas normalnego użytkowania. Opcjonalna integracja z Ollama wykonuje przetwarzanie po na lokalnym modelu, zachowując dane na maszynie. Przenośny design aplikacji unika zmian instalacyjnych w systemie, co pomaga, gdy potrzebujesz narzędzia, które nie zapisuje trwałych wpisów na wielu maszynach.
Silne lokalne narzędzie do dyktowania dla technicznie zorientowanych, skoncentrowanych na prywatności użytkowników
VoZii odpowiada użytkownikom, którzy akceptują odpowiedzialność za zarządzanie lokalnymi modelami i przyspieszeniem sprzętowym, aby uzyskać transkrypcję na urządzeniu i prywatność. Oczekuj pewnej pracy konfiguracyjnej przy włączaniu przyspieszenia GPU lub integracji lokalnej instancji Ollama; użytkownicy, którzy wolą usługę dyktowania z chmury typu plug-and-play, mogą uznać tę wymianę za niepożądaną. Zalecane dla każdego, kto priorytetowo traktuje lokalne przetwarzanie i bezpośrednie wstawianie tekstu w przepływach pracy na komputerze stacjonarnym.
