QNAP uruchamia wersję Beta AI Service Center do prostego, scentralizowanego zarządzania lokalnymi i chmurowymi modelami AI na se

Zarządzaj modelami, kluczami API i limitami wydatków w jednym miejscu; dane z modeli lokalnych nigdy nie opuszczają serwera NAS, podczas gdy usługi chmurowe są wybierane przez użytkownika, a każde żądanie jest możliwe do wyśledzenia

QNAP® Systems, Inc., wiodący innowator w dziedzinie pamięci masowych, sieci i rozwiązań do ochrony danych, zaprezentował AI Service Center (Beta), nową platformę zarządzania AI zaprojektowaną specjalnie dla serwerów NAS. Platforma ta eliminuje problem polegający na tym, że każda aplikacja NAS łączy się z AI oddzielnie, zapewniając centralne centrum zarządzania sztuczną inteligencją z "jednym punktem wejścia i orkiestracją w całym systemie".

Dzięki pojedynczemu interfejsowi AI Service Center administratorzy mogą łatwo, w sposób scentralizowany zarządzać modelami lokalnymi, nadzorując jednocześnie wiodące usługi AI w chmurze, takie jak OpenAI, Azure OpenAI, Gemini i Claude. W miarę jak generatywna sztuczna inteligencja jest coraz bardziej integrowana z ekosystemem QNAP NAS, aplikacje NAS, takie jak asystent AI QuAgent i wyszukiwanie semantyczne AI Qsirch, mogą również uzyskiwać dostęp do możliwości AI poprzez zunifikowane połączenie, bez konieczności wyszukiwania modeli lub oddzielnego przechowywania kluczy API dla każdej aplikacji. Gdy używane są modele lokalne, żądania i odpowiedzi pozostają na serwerze NAS, chroniąc prywatność poufnych danych. Kiedy wybrane są usługi chmurowe, administratorzy zachowują kontrolę nad limitami wydatków, dostępnymi modelami i rejestrem każdego wywołania.

"Ponieważ na serwerach NAS działa coraz więcej aplikacji sztucznej inteligencji, administratorzy potrzebują wyraźnego wglądu w to, jakie modele są uruchomione, dokąd trafiają dane i ile to kosztuje" – powiedziała Vivian Luo, Product Manager w QNAP. "AI Service Center gromadzi wszystkie te informacje w jednym miejscu, pozwalając zarówno firmom, jak i indywidualnym użytkownikom na pewne wdrażanie sztucznej inteligencji, przy jednoczesnym zachowaniu kontroli nad tym, gdzie przetwarzane są ich dane i kto o tym decyduje."

Kluczowe funkcje AI Service Center

• Lokalna biblioteka modeli: Wybieraj modele ze zweryfikowanej listy modeli QNAP i przypisuj je do procesora (CPU), układu graficznego (GPU), zintegrowanej grafiki lub NPU. System automatycznie pobiera je i ładuje w tle.
• Dostawcy chmurowi: Połącz się z OpenAI, Azure OpenAI, Gemini, Claude i punktami końcowymi kompatybilnymi z OpenAI za pomocą własnych kluczy API, a także ustaw miesięczne budżety i progi alertów. Klucze API są przechowywane wyłącznie na lokalnym serwerze NAS.
• Routing aplikacji: Aplikacje są rejestrowane automatycznie po instalacji. Administratorzy mogą przypisywać modele do poszczególnych funkcji i na jednej stronie decydować, czy zezwolić na dostęp do chmury. Skonfiguruj raz, a ustawienia zostaną zastosowane do wszystkich aplikacji.
• Logi: Rejestruje czas, aplikację, model, funkcję, liczbę tokenów, koszt i opóźnienie każdego wywołania, z możliwością eksportu do pliku CSV w celu ułatwienia audytu.

Wymagania systemowe NAS

• System operacyjny: QTS 6.1.0 (lub nowszy), lub QuTS hero h6.1.0 (lub nowszy)
• Dostawcy chmurowi: Dostępne na modelach x86 i ARM64; układ graficzny (GPU) nie jest wymagany
• Lokalna biblioteka modeli: Obsługiwana tylko na modelach x86; wymaga układu graficznego (GPU), który przeszedł weryfikację kompatybilności, wraz z odpowiednim środowiskiem uruchomieniowym i pakietami modeli