Hy3 od Tencent — co to jest i jak działa nowy model AI?

Co to jest Hy3?

Hy3 to model Mixture-of-Experts (MoE) opracowany przez zespół Hy Tencent. Jego architektura opiera się na wykorzystaniu 192 ekspertów, z których aktywowane są tylko 8 przy każdym tokenie. Dzięki temu model utrzymuje niską moc obliczeniową. Hy3 jest zaprojektowany z myślą o zadaniach wymagających długiego kontekstu oraz rozumowania, co czyni go odpowiednim narzędziem dla bardziej złożonych aplikacji AI.

Jak działa Hy3?

Hy3 korzysta z warstwy Multi-Token Prediction (MTP), która umożliwia przewidywanie kilku tokenów jednocześnie, co przyspiesza proces dekodowania. Wykorzystanie dekodowania spekulatywnego przez technologie vLLM i SGLang dodatkowo zwiększa wydajność. Model posiada 80 warstw i 64 głowy uwagi, co pozwala na efektywne przetwarzanie informacji.

Do czego służy Hy3?

Hy3 jest wykorzystywany w różnych dziedzinach, w tym w programowaniu, agentach oraz rozwiązywaniu problemów STEM. Wyniki benchmarków pokazują, że model osiąga wysokie wyniki, takie jak 78.0 na SWE-Bench Verified oraz 90.4 na GPQA Diamond. Dodatkowo, Hy3 został przetestowany w rzeczywistych scenariuszach roboczych, gdzie uzyskał lepsze wyniki niż GLM-5.1 w obszarach takich jak frontend development i CI/CD.

Jak zacząć korzystać z Hy3?

Aby rozpocząć pracę z Hy3, warto odwiedzić stronę Tencent, gdzie dostępne są szczegółowe informacje oraz dokumentacja. Model jest udostępniany na licencji Apache 2.0, co ułatwia jego integrację w różnych projektach. Dla deweloperów dostępne są również różne checkpointy, w tym Hy3-FP8, które zmniejszają zapotrzebowanie na pamięć.