Ako môže Amazon použiť prispôsobené čipy AWS na dobehnutie Microsoft a Google v poli AI?
Podľa CNBC tím Amazon navrhuje dva čipy, kódovanú inferenciu a školenie, na výcvik a zrýchlenie generatívnej umelej inteligencie.Tieto čipy poskytujú alternatívnu možnosť pre zákazníkov Amazon Cloud Services AWS na trénovanie veľkých jazykových modelov namiesto grafických procesorov NVIDIA.V súčasnosti sa obstarávanie GPU stáva čoraz zložitejším a drahším a tieto prispôsobené čipy môžu zákazníkom spoločnosti AWS poskytnúť alternatívne riešenia na školenie veľkých jazykových modelov na čipoch NVIDIA.
Generálny riaditeľ spoločnosti Amazon Cloud Technology Adam Selipsky v júni tohto roku povedal: „Svet dúfa, že bude mať viac čipov pre generatívnu umelú inteligenciu, či už ide o GPU alebo Amazonské čipy, ktoré navrhujeme, navrhujeme
Ostatné spoločnosti však podnikli rýchlejšie kroky a investovali viac finančných prostriedkov na získanie podnikania z vlny generatívnej umelej inteligencie.Keď spoločnosť OpenAI spustila spoločnosť Chatgpt v novembri minulého roka, spoločnosť Microsoft získala rozsiahlu pozornosť pre svoje chatboty a investície vo výške 13 miliárd dolárov v OpenAI.Spoločnosť rýchlo pridala do svojich výrobkov generatívne modely umelej inteligencie a vo februári tohto roku ich zlúčila do Bingu.
V tom istom mesiaci spoločnosť Google uviedla na trh svoj vlastný rozsiahly jazykový model Bard a následne investoval 300 miliónov dolárov do OpenAi Konkurenta Anthropic.
Až do apríla Amazon oznámil spustenie vlastnej série veľkých jazykových modelov (s názvom Titan) a službu Bedlock, ktorá vývojárom pomáha používať generatívny softvér na vylepšenie AI.
Amazon sa nepoužíva na prenasledovanie trhu.Amazon sa používa na vytvorenie trhu.Myslím si, že prvýkrát po dlhej dobe sa ocitli v nevýhode a usilovne sa snažia dobehnúť, “povedal Chirag DeKate, viceprezident spoločnosti Gartner.
Meta nedávno vydala svoje vlastné hlavné modely Llama 2.Tento otvorený zdroj Chatgpt konkurenta je teraz možné otestovať na verejnom cloude spoločnosti Microsoft Azure.
Čipy sú „skutočnou diferenciáciou“
Dekate uviedol, že z dlhodobého hľadiska mu môžu prispôsobené čipy Amazonu dať výhodu v oblasti generatívnej umelej inteligencie,
Myslím si, že skutočná diferenciácia spočíva v technických schopnostiach, ktoré vyvíjajú, pretože spoločnosť Microsoft nemá prispôsobené čipy na školenie alebo inferenciu
AWS potichu začala vyrábať vlastné čipy už v roku 2013 a používa špecializovaný hardvér s názvom Nitro, ktorý je teraz najpredávanejším čipom AWS.Amazon tvrdí, že každý server AWS má aspoň jeden, s celkovým využitím viac ako 20 miliónov.
V roku 2015 spoločnosť Amazon získala spustenie izraelského čipu Annapurna Labs.V roku 2018 spoločnosť Amazon spustila serverový chip Graviton založený na ARM, ktorý je konkurentom CPU X86 od Giants ako AMD a Intel.
ARM môže predstavovať vysokú jednorazovú alebo dokonca 10% z celkového predaja servera, pričom veľká časť pochádza z Amazonu.Preto sa im darí celkom dobre, pokiaľ ide o CPU, “uviedla Stacy Rasgon, senior analytička spoločnosti Bernstein Research.
V roku 2018 Amazon spustil Chips zameraný na umelú inteligenciu.Pred dvoma rokmi spoločnosť Google oznámila spustenie prvej jednotky Tensor procesor (TPU).Spoločnosť Microsoft ešte neoznámila, že vyvíja čip Athena AI, ktorý sa údajne vyvíja v spolupráci s AMD.
Matt Wood, viceprezident spoločnosti Amazon Products, vysvetlil využitie tréningových a inferných čipov.
Strojové učenie je rozdelené do týchto dvoch rôznych etáp.Preto trénujete modely strojového učenia a potom odvodzujete tieto vyškolené modely, “povedal Wood. V porovnaní s akýmkoľvek iným spôsobom tréningových modelov strojového učenia na AWS školenie zlepšilo svoju nákladovú efektívnosť približne o 50%
Po vydaní Inferentia v roku 2019 (v súčasnosti v druhej generácii) sa školenie prvýkrát začalo v roku 2021.
Inferentia „poskytuje veľmi nízkonákladovú, vysokú priepustnosť a nízku latenciu strojového učenia, čo znamená, že keď vložíte výzvu do modelu generatívnej umelej inteligencie, všetky predpovede sa tu spracúvajú tak, aby odpovedali,“ uviedol Wood.
V súčasnosti je však GPU spoločnosti Nvidia stále kráľom, pokiaľ ide o tréningové modely.V júli tohto roku spoločnosť AWS uviedla na trh nový hardvér AI Acceleration podporovaný NVIDIA H100.
Rasgon povedal: „Čipy Nvidia majú obrovský softvérový ekosystém a za posledných 15 rokov bol softvérový ekosystém postavený okolo nich jedinečnými spoločnosťami. V súčasnosti je najväčším víťazom umelej inteligencie NVIDIA
Využívanie výhod cloudu
Cloudová dominancia spoločnosti AWS je však hlavným faktorom diferenciácie pre Amazon.
Amazon nepotrebuje žiadnu ďalšiu pozornosť.Amazon už má veľmi silnú nadáciu inštalácie cloudu.Všetko, čo musia urobiť, je zistiť, ako umožniť existujúcim zákazníkom využívať generatívnu umelú inteligenciu, aby sa rozšírili na činnosti tvorby hodnoty, “uviedol Dekate.
Pri výbere generatívnej umelej inteligencie medzi Amazon, Google a Microsoft môžu byť milióny zákazníkov AWS priťahované do Amazonu, pretože už sú oboznámení s Amazonom a spúšťajú ďalšie aplikácie a ukladajú tam údaje.
Mai Lan Tomsen Bukovec, viceprezident spoločnosti AWS Technology, vysvetlil: „Toto je otázka rýchlosti. Ako rýchlo môžu tieto spoločnosti rozvíjať tieto generatívne aplikácie umelej inteligencie, závisí od toho, ako začínajú s údajmi v AWS a používajú nástroje na výpočet a strojové učenie WE WE WE WE WE WE WEPoskytnite ho na riadenie
Podľa Gartner Data, AWS je najväčším poskytovateľom cloud computingu na svete, s podielom na trhu v roku 2022 40%prevádzkový zisk v druhom štvrťroku.Z historického hľadiska je prevádzková marža spoločnosti AWS oveľa vyššia ako spoločnosť Google Cloud.
AWS má navyše rastúce portfólio nástrojov pre vývojárov zameraných na generatívnu umelú inteligenciu.Swami Sivasubramanian, viceprezident pre databázu, analýzu a strojové učenie v AWSčip v tomto rýchlo, nehovoriac o základnej službe za 2 až 3 mesiace
Spoločnosť Bedlock môže poskytnúť zákazníkom AWS prístup k veľkým jazykovým modelom vyvinutým antiopickým, stability AI, AI21 Labs a Amazon Titan.Sivasubramanian povedal: „Neveríme, že jeden model bude vládnuť svetu. Chceme, aby naši zákazníci mali najmodernejšie modely od viacerých dodávateľov, pretože si vyberú správne nástroje pre správne zamestnanie
Jedným z najnovších produktov umelej inteligencie Amazonu je AWS HealthScribe, ktorý bol uvedený na trh v júli, a jeho cieľom je pomôcť lekárom navrhnúť návštevu súhrnov pomocou generatívnej umelej inteligencie.Amazon má tiež centrum strojového učenia s názvom Sagemaker, ktoré poskytuje služby, ako sú algoritmy a modely.
Ďalším dôležitým nástrojom je CodeWhisperer, ktorý podľa Amazonu zvýšil rýchlosť dokončenia úlohy vývojárov v priemere o 57%.Minulý rok spoločnosť Microsoft tiež uviedla, že jeho kódovací nástroj Github Copilot zlepšil efektívnosť práce.
V júni tohto roku spoločnosť AWS oznámila investíciu vo výške 100 miliónov dolárov na zriadenie generatívnej inovácie umelej inteligencie.Adam Selipsky, generálny riaditeľ spoločnosti AWS, povedal: „Máme veľa klientov, ktorí chcú generatívnu technológiu umelej inteligencie, ale nemusia nevyhnutne vedieť, čo pre nich znamená vo svojom vlastnom obchodnom kontexte. Preto predstavíme architektov riešení, inžinierov, stratégov,a vedci z údajov, aby s nimi spolupracovali jeden na jedného
Aj keď sa spoločnosť AWS doteraz zameriavala hlavne na vývoj nástrojov namiesto budovania konkurentov pre Chatgpt, nedávno uniknutý interný e -mail ukazuje, že generálny riaditeľ Amazonu Andy Jassy priamo dohliada na nový centrálny tím, ktorý tiež vytvára škálovateľné modely veľkých jazykov.
Počas konferenčného hovoru vo finančnej správe druhého štvrťroka Jia XI uviedla, že „významná časť“ podnikania spoločnosti AWS je teraz poháňaná umelou inteligenciou a podporou viac ako 20 služieb strojového učenia, so zákazníkmi vrátane Philips, 3M, Old Mutual a HSBC.
Výbušný rast umelej inteligencie priniesol niekoľko bezpečnostných problémov, pretože spoločnosti sa obávajú, že zamestnanci budú začleniť proprietárne informácie do údajov o školení použitých v spoločnom modeli veľkého jazyka.
Adam Selipsky povedal: „Nemôžem vám povedať, koľko spoločností Fortune 500, ktoré som kontaktoval, zakázal chatgpt..
V súčasnosti Amazon urýchľuje iba propagáciu generatívnej umelej inteligencie a tvrdí, že „viac ako 100 000“ zákazníkov v súčasnosti používa strojové učenie na AWS.Aj keď to predstavuje iba malú časť miliónov zákazníkov AWS, analytici tvrdia, že táto situácia sa môže zmeniť.
Nevidíme spoločnosti, ktoré hovoria: „Och, počkajte minútu, Microsoft už vedie v generatívnej umelej inteligencii.Poďme von a zmeňme našu stratégiu infraštruktúry a presunieme všetko do spoločnosti Microsoftware.Ak ste už zákazníkom spoločnosti Amazon, pravdepodobne preskúmajte ekosystém Amazonky širšie. “
Generálny riaditeľ spoločnosti Amazon Cloud Technology Adam Selipsky v júni tohto roku povedal: „Svet dúfa, že bude mať viac čipov pre generatívnu umelú inteligenciu, či už ide o GPU alebo Amazonské čipy, ktoré navrhujeme, navrhujeme
Ostatné spoločnosti však podnikli rýchlejšie kroky a investovali viac finančných prostriedkov na získanie podnikania z vlny generatívnej umelej inteligencie.Keď spoločnosť OpenAI spustila spoločnosť Chatgpt v novembri minulého roka, spoločnosť Microsoft získala rozsiahlu pozornosť pre svoje chatboty a investície vo výške 13 miliárd dolárov v OpenAI.Spoločnosť rýchlo pridala do svojich výrobkov generatívne modely umelej inteligencie a vo februári tohto roku ich zlúčila do Bingu.
V tom istom mesiaci spoločnosť Google uviedla na trh svoj vlastný rozsiahly jazykový model Bard a následne investoval 300 miliónov dolárov do OpenAi Konkurenta Anthropic.
Až do apríla Amazon oznámil spustenie vlastnej série veľkých jazykových modelov (s názvom Titan) a službu Bedlock, ktorá vývojárom pomáha používať generatívny softvér na vylepšenie AI.
Amazon sa nepoužíva na prenasledovanie trhu.Amazon sa používa na vytvorenie trhu.Myslím si, že prvýkrát po dlhej dobe sa ocitli v nevýhode a usilovne sa snažia dobehnúť, “povedal Chirag DeKate, viceprezident spoločnosti Gartner.
Meta nedávno vydala svoje vlastné hlavné modely Llama 2.Tento otvorený zdroj Chatgpt konkurenta je teraz možné otestovať na verejnom cloude spoločnosti Microsoft Azure.
Čipy sú „skutočnou diferenciáciou“
Dekate uviedol, že z dlhodobého hľadiska mu môžu prispôsobené čipy Amazonu dať výhodu v oblasti generatívnej umelej inteligencie,
Myslím si, že skutočná diferenciácia spočíva v technických schopnostiach, ktoré vyvíjajú, pretože spoločnosť Microsoft nemá prispôsobené čipy na školenie alebo inferenciu
AWS potichu začala vyrábať vlastné čipy už v roku 2013 a používa špecializovaný hardvér s názvom Nitro, ktorý je teraz najpredávanejším čipom AWS.Amazon tvrdí, že každý server AWS má aspoň jeden, s celkovým využitím viac ako 20 miliónov.
V roku 2015 spoločnosť Amazon získala spustenie izraelského čipu Annapurna Labs.V roku 2018 spoločnosť Amazon spustila serverový chip Graviton založený na ARM, ktorý je konkurentom CPU X86 od Giants ako AMD a Intel.
ARM môže predstavovať vysokú jednorazovú alebo dokonca 10% z celkového predaja servera, pričom veľká časť pochádza z Amazonu.Preto sa im darí celkom dobre, pokiaľ ide o CPU, “uviedla Stacy Rasgon, senior analytička spoločnosti Bernstein Research.
V roku 2018 Amazon spustil Chips zameraný na umelú inteligenciu.Pred dvoma rokmi spoločnosť Google oznámila spustenie prvej jednotky Tensor procesor (TPU).Spoločnosť Microsoft ešte neoznámila, že vyvíja čip Athena AI, ktorý sa údajne vyvíja v spolupráci s AMD.
Matt Wood, viceprezident spoločnosti Amazon Products, vysvetlil využitie tréningových a inferných čipov.
Strojové učenie je rozdelené do týchto dvoch rôznych etáp.Preto trénujete modely strojového učenia a potom odvodzujete tieto vyškolené modely, “povedal Wood. V porovnaní s akýmkoľvek iným spôsobom tréningových modelov strojového učenia na AWS školenie zlepšilo svoju nákladovú efektívnosť približne o 50%
Po vydaní Inferentia v roku 2019 (v súčasnosti v druhej generácii) sa školenie prvýkrát začalo v roku 2021.
Inferentia „poskytuje veľmi nízkonákladovú, vysokú priepustnosť a nízku latenciu strojového učenia, čo znamená, že keď vložíte výzvu do modelu generatívnej umelej inteligencie, všetky predpovede sa tu spracúvajú tak, aby odpovedali,“ uviedol Wood.
V súčasnosti je však GPU spoločnosti Nvidia stále kráľom, pokiaľ ide o tréningové modely.V júli tohto roku spoločnosť AWS uviedla na trh nový hardvér AI Acceleration podporovaný NVIDIA H100.
Rasgon povedal: „Čipy Nvidia majú obrovský softvérový ekosystém a za posledných 15 rokov bol softvérový ekosystém postavený okolo nich jedinečnými spoločnosťami. V súčasnosti je najväčším víťazom umelej inteligencie NVIDIA
Využívanie výhod cloudu
Cloudová dominancia spoločnosti AWS je však hlavným faktorom diferenciácie pre Amazon.
Amazon nepotrebuje žiadnu ďalšiu pozornosť.Amazon už má veľmi silnú nadáciu inštalácie cloudu.Všetko, čo musia urobiť, je zistiť, ako umožniť existujúcim zákazníkom využívať generatívnu umelú inteligenciu, aby sa rozšírili na činnosti tvorby hodnoty, “uviedol Dekate.
Pri výbere generatívnej umelej inteligencie medzi Amazon, Google a Microsoft môžu byť milióny zákazníkov AWS priťahované do Amazonu, pretože už sú oboznámení s Amazonom a spúšťajú ďalšie aplikácie a ukladajú tam údaje.
Mai Lan Tomsen Bukovec, viceprezident spoločnosti AWS Technology, vysvetlil: „Toto je otázka rýchlosti. Ako rýchlo môžu tieto spoločnosti rozvíjať tieto generatívne aplikácie umelej inteligencie, závisí od toho, ako začínajú s údajmi v AWS a používajú nástroje na výpočet a strojové učenie WE WE WE WE WE WE WEPoskytnite ho na riadenie
Podľa Gartner Data, AWS je najväčším poskytovateľom cloud computingu na svete, s podielom na trhu v roku 2022 40%prevádzkový zisk v druhom štvrťroku.Z historického hľadiska je prevádzková marža spoločnosti AWS oveľa vyššia ako spoločnosť Google Cloud.
AWS má navyše rastúce portfólio nástrojov pre vývojárov zameraných na generatívnu umelú inteligenciu.Swami Sivasubramanian, viceprezident pre databázu, analýzu a strojové učenie v AWSčip v tomto rýchlo, nehovoriac o základnej službe za 2 až 3 mesiace
Spoločnosť Bedlock môže poskytnúť zákazníkom AWS prístup k veľkým jazykovým modelom vyvinutým antiopickým, stability AI, AI21 Labs a Amazon Titan.Sivasubramanian povedal: „Neveríme, že jeden model bude vládnuť svetu. Chceme, aby naši zákazníci mali najmodernejšie modely od viacerých dodávateľov, pretože si vyberú správne nástroje pre správne zamestnanie
Jedným z najnovších produktov umelej inteligencie Amazonu je AWS HealthScribe, ktorý bol uvedený na trh v júli, a jeho cieľom je pomôcť lekárom navrhnúť návštevu súhrnov pomocou generatívnej umelej inteligencie.Amazon má tiež centrum strojového učenia s názvom Sagemaker, ktoré poskytuje služby, ako sú algoritmy a modely.
Ďalším dôležitým nástrojom je CodeWhisperer, ktorý podľa Amazonu zvýšil rýchlosť dokončenia úlohy vývojárov v priemere o 57%.Minulý rok spoločnosť Microsoft tiež uviedla, že jeho kódovací nástroj Github Copilot zlepšil efektívnosť práce.
V júni tohto roku spoločnosť AWS oznámila investíciu vo výške 100 miliónov dolárov na zriadenie generatívnej inovácie umelej inteligencie.Adam Selipsky, generálny riaditeľ spoločnosti AWS, povedal: „Máme veľa klientov, ktorí chcú generatívnu technológiu umelej inteligencie, ale nemusia nevyhnutne vedieť, čo pre nich znamená vo svojom vlastnom obchodnom kontexte. Preto predstavíme architektov riešení, inžinierov, stratégov,a vedci z údajov, aby s nimi spolupracovali jeden na jedného
Aj keď sa spoločnosť AWS doteraz zameriavala hlavne na vývoj nástrojov namiesto budovania konkurentov pre Chatgpt, nedávno uniknutý interný e -mail ukazuje, že generálny riaditeľ Amazonu Andy Jassy priamo dohliada na nový centrálny tím, ktorý tiež vytvára škálovateľné modely veľkých jazykov.
Počas konferenčného hovoru vo finančnej správe druhého štvrťroka Jia XI uviedla, že „významná časť“ podnikania spoločnosti AWS je teraz poháňaná umelou inteligenciou a podporou viac ako 20 služieb strojového učenia, so zákazníkmi vrátane Philips, 3M, Old Mutual a HSBC.
Výbušný rast umelej inteligencie priniesol niekoľko bezpečnostných problémov, pretože spoločnosti sa obávajú, že zamestnanci budú začleniť proprietárne informácie do údajov o školení použitých v spoločnom modeli veľkého jazyka.
Adam Selipsky povedal: „Nemôžem vám povedať, koľko spoločností Fortune 500, ktoré som kontaktoval, zakázal chatgpt..
V súčasnosti Amazon urýchľuje iba propagáciu generatívnej umelej inteligencie a tvrdí, že „viac ako 100 000“ zákazníkov v súčasnosti používa strojové učenie na AWS.Aj keď to predstavuje iba malú časť miliónov zákazníkov AWS, analytici tvrdia, že táto situácia sa môže zmeniť.
Nevidíme spoločnosti, ktoré hovoria: „Och, počkajte minútu, Microsoft už vedie v generatívnej umelej inteligencii.Poďme von a zmeňme našu stratégiu infraštruktúry a presunieme všetko do spoločnosti Microsoftware.Ak ste už zákazníkom spoločnosti Amazon, pravdepodobne preskúmajte ekosystém Amazonky širšie. “