Skončí akcie Nvidia, Meta a Alphabet v propadlišti dějin? DeepSeek ukázal, jak trénovat umělou inteligenci levněji a efektivněji!

Čínská laboratoř umělé inteligence DeepSeek použila inovativní techniky k vývoji modelu umělé inteligence, který byl vycvičen s omezeným zásahem člověka.

Vytvořila tak “aha moment”, který by mohl změnit náklady vývojářů na vytváření zabijáckých aplikací založených na této technologii.

Zveřejněná výzkumná práce o fungování modelu R1 společnosti DeepSeek odhaluje, jak skupina vedená miliardářem z hedgeového fondu Liangem Wenfengem dosáhla silných výsledků tím, že odstranila úzká místa ve vývoji AI.

Článek ukazuje, jak společnost DeepSeek přijala řadu efektivnějších technik k vývoji modelu R1, který stejně jako konkurenční model o1 společnosti OpenAI generuje přesné odpovědi tím, že o svých odpovědích “přemýšlí” krok za krokem více než většina velkých jazykových modelů.

Průlomové poznatky DeepSeek vycházejí z použití “posilovacího učení”, které snižuje zapojení člověka do vytváření odpovědí na výzvy.

Společnost také vytvořila menší modely s menším počtem parametrů – množství proměnných používaných k trénování systému AI a formování jeho výstupu – s výkonnými schopnostmi uvažování tím, že upravila velké modely vyškolené konkurenčními společnostmi, jako jsou Meta a Alibaba.

Společně tento vývoj vyvolal šok v celém Silicon Valley, protože R1 překonává některé úlohy ve srovnání s nedávno vydanými modely společností OpenAI, Anthropic a Meta, ale za zlomek peněz na vývoj.

Aktuální vývoj ceny akcií Meta a Alibaba

Škála

• Normální graf
• Logaritmický graf
• Procenta

Měna

• USD
• EUR
• CZK

Aktuální cena

Změna

Meta Platforms / FB

Načítání

Načítání

Načítání

Alibaba / BABA

Načítání

Načítání

Načítání

Koupit akcie FB! Váš kapitál může být ohrožen*

---

Koupit!

Palce nahoru vedou k “aha momentu”

Velké jazykové modely se vytvářejí ve dvou fázích. První se nazývá “pre-training”, při němž vývojáři používají obrovské soubory dat, které modelům pomáhají předvídat další slovo ve větě.

Druhá fáze se nazývá “post-training”, jejímž prostřednictvím vývojáři učí model postupovat podle instrukcí, například řešit matematické úlohy nebo kódovat.

Jedním ze způsobů, jak přimět chatboty generovat užitečnější odpovědi, je tzv. posilovací učení z lidské zpětné vazby (RLHF – reinforcement learning from human feedback), což je technika, kterou jako první zavedla OpenAI s cílem zlepšit ChatGPT.

RLHF funguje tak, že lidští anotátoři označují odpovědi modelu AI na výzvy a vybírají odpovědi, které jsou nejlepší. Tento krok je pracný, nákladný a časově náročný a často vyžaduje malou armádu lidských “štítkovačů” dat.

Velkou inovací společnosti DeepSeek je automatizace tohoto závěrečného kroku pomocí techniky posilovacího učení (RL – reinforcement learning), při níž je model umělé inteligence odměňován za to, že dělá správné věci.

DeepSeek nejprve vyvinula výkonný model pro předpovídání textu nazvaný V3. Poté použila RL k “odměňování” modelu, například mu dala palec nahoru za vygenerování správné odpovědi.

Čínská společnost zjistila, že když tento proces provedla dostatečně častokrát, model dokázal spontánně řešit problémy bez lidského dohledu.

DeepSeek uvedla, že zjistila, že model prodělal něco, co společnost nazvala “aha moment”, když přehodnotil své odpovědi a upravil dobu zpracování pro řešení různých otázek.

“Tento aha moment slouží jako mocná připomínka potenciálu posilovacího učení odemknout nové úrovně inteligence v umělých systémech a připravit tak cestu pro autonomnější a adaptivnější modely v budoucnosti,” napsali tvůrci DeepSeek ve své výzkumné zprávě.

Malé modely postavené na základě velkých modelů

Zatímco OpenAI a Google investují miliardy dolarů do budování velkých jazykových modelů, společnost DeepSeek vytvořila také menší modely, které lze spustit v telefonech nebo webových prohlížečích “destilací” rozumových schopností větších modelů.

DeepSeek použila svůj model R1 k vygenerování relativně malé sady 800 000 datových bodů a poté pomocí těchto dat vytvořených umělou inteligencí upravila modely vytvořené konkurenčními společnostmi, jako je Qwen společnosti Alibaba a Llama společnosti Meta.

DeepSeek zjistila, že tyto destilované modely byly obzvláště silné při srovnávání argumentů a v některých případech překonávaly vlajkové modely, jako je Claude společnosti Anthropic.

Tento vývoj by mohl být přínosem pro vývojáře aplikací, kteří tak mají k dispozici levný a efektivní způsob vytváření produktů.

DeepSeek neuvedla, kolik utratila za vytvoření modelu R1, ale tvrdí, že svůj model V3, na němž je R1 založen, vycvičila za pouhých 5,6 milionu dolarů.

Tato částka však nezahrnuje další náklady, jako je pravděpodobné pořízení tisíců grafických výpočetních jednotek pro trénování modelu, nebo platy, experimenty, školení a nasazení.

A přestože DeepSeek jako první použil své konkrétní techniky, očekává se, že další laboratoře umělé inteligence budou následovat jeho příkladu.

Uvažujete o investování do akcií? Zvážit můžete některého z námi recenzovaných brokerů:

Favorit redakce

XTB

94 %

Recenze Otevřít účet

Při obchodování CFD s tímto poskytovatelem ztrácí 74 % účtů retailových investorů peníze.

Výhody

• Nákup a prodej akcií i ETF bez poplatku
• Možnost nákupu frakčních práv a ETF

Nevýhody

• Absence některých oblíbených finančních instrumentů – opce, dluhopisy, podílové fondy apod.
• Danění českých dividend 35% sazbou

eToro

90 %

Recenze Otevřít účet

U 51 % retailových investorů došlo při obchodování CFD u této společnosti ke vzniku ztráty.

RoboMarkets

89 %

Recenze Otevřít účet

U 66,02 % retailových investorů došlo ke vzniku ztráty.