AI za grosze: GPT-4o mini miażdży konkurencję za ułamek ceny!

OpenAI, lider w dziedzinie sztucznej inteligencji, ogłosił dziś wprowadzenie GPT-4o mini – najbardziej ekonomicznego małego modelu w swojej ofercie. To przełomowe rozwiązanie ma na celu zwiększenie dostępności zaawansowanej AI dla szerszego grona odbiorców i aplikacji.

Kluczowe cechy GPT-4o mini

1. Wydajność i przystępność cenowa: GPT-4o mini oferuje imponującą wydajność przy znacznie niższych kosztach. Cena to zaledwie 15 centów (około 0,59 zł) za milion tokenów wejściowych i 60 centów (około 2,36 zł) za milion tokenów wyjściowych, co czyni go o ponad 60% tańszym od GPT-3.5 Turbo.
2. Zaawansowane możliwości: Model uzyskuje 82% wynik w teście MMLU (Massive Multitask Language Understanding) i przewyższa GPT-41 w preferencjach czatu na tablicy liderów LMSYS.
3. Wszechstronność: GPT-4o mini obsługuje tekst i obrazy w API, z planowanym wsparciem dla wideo i audio w przyszłości.
4. Duże okno kontekstowe: Model oferuje okno kontekstowe o wielkości 128K tokenów i obsługuje do 16K tokenów wyjściowych na żądanie.
5. Aktualność: Baza wiedzy modelu jest aktualna do października 2023 roku.

Zastosowania i możliwości

GPT-4o mini otwiera nowe możliwości dla różnorodnych aplikacji, w tym:

• Równoległe przetwarzanie wielu zapytań do modelu
• Analiza dużych ilości kontekstu (np. pełnej bazy kodu lub historii konwersacji)
• Szybkie chatboty do obsługi klienta z odpowiedziami w czasie rzeczywistym

Porównanie z konkurencją

GPT-4o mini przewyższa inne małe modele w wielu kluczowych benchmarkach:

Powyższy wykres przedstawia wyniki różnych modeli sztucznej inteligencji w szeregu specjalistycznych testów. Każdy z tych testów mierzy inne aspekty zdolności AI, pokazując, jak dobrze radzą sobie one w różnych zadaniach. Oto, co oznaczają poszczególne testy:

1. MMLU (Massive Multitask Language Understanding): Sprawdza ogólną wiedzę AI z różnych dziedzin, podobnie jak w teleturnieju.
2. GPQA (Generative Pre-trained Question Answering): Ocenia zdolność AI do odpowiadania na pytania na podstawie dostarczonych informacji.
3. DROP (Discrete Reasoning Over Paragraphs): Testuje umiejętność logicznego myślenia AI i łączenia różnych informacji.
4. MGSM (Multiple-choice Grade School Math): Sprawdza umiejętność rozwiązywania podstawowych zadań matematycznych.
5. MATH: To zaawansowany test matematyczny, wymagający głębszej analizy i zrozumienia.
6. HumanEval: Ocenia zdolności programistyczne AI, sprawdzając umiejętność pisania kodu.
7. MMMU (Massive Multitask Multimodal Understanding): Testuje, jak AI radzi sobie z różnymi formami informacji jednocześnie (tekst, obrazy, dźwięk).
8. MathVista: Łączy matematykę z analizą wizualną, wymagając rozwiązywania problemów na podstawie obrazów lub wykresów.

Bezpieczeństwo i etyka

OpenAI podkreśla, że bezpieczeństwo jest integralną częścią GPT-4o mini:

• Zastosowano filtrowanie danych treningowych, aby uniknąć uczenia się z niepożądanych źródeł
• Wykorzystano techniki uczenia ze wzmocnieniem z informacją zwrotną od ludzi (RLHF)
• Wprowadzono nową metodę “instruction hierarchy” dla zwiększenia odporności na próby obejścia zabezpieczeń

Dostępność

GPT-4o mini jest już dostępny w API Assistants, Chat Completions i Batch. W ChatGPT będzie dostępny dla użytkowników darmowych, Plus i Team, zastępując GPT-3.5. Użytkownicy Enterprise uzyskają dostęp w przyszłym tygodniu.

Perspektywy na przyszłość

OpenAI podkreśla, że GPT-4o mini to kolejny krok w kierunku powszechnej dostępności zaawansowanej AI. Firma przewiduje przyszłość, w której modele AI będą zintegrowane z każdą aplikacją i stroną internetową, stając się nieodłączną częścią naszych codziennych cyfrowych doświadczeń.

Wprowadzenie GPT-4o mini stanowi znaczący krok w demokratyzacji dostępu do zaawansowanej sztucznej inteligencji, otwierając nowe możliwości dla deweloperów i firm na całym świecie.

Źródło: https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/