Anthropic
Anthropic · spoluzakladatel Dario Amodei
Stavět bezpečné systémy AI a přitom stáčet k bezpečnosti celý obor.
Proč vzniklo
Anthropic existuje proto, že skupina lidí v OpenAI došla k závěru, že tu věc zevnitř neusměrní. Začátkem roku 2021 odešli Dario a Daniela Amodeiovi s většinou týmu, který stál za GPT-3, a založili laboratoř na nepohodlném předpokladu: nejbezpečnější cesta, jak ovlivnit špičkovou AI, je špičkovou AI sám stavět — protože bezpečnostní laboratoř bez modelu nemá páku ani místo u stolu.
Charakteristickou metodou je Constitutional AI: model nehodnotí jen lidé, ale kritizuje sám sebe proti sepsané sadě zásad. K tomu Responsible Scaling Policy z roku 2023, která černé na bílém říká, jaké schopnosti firmu donutí zastavit se a přidat pojistky. Je to jediný titán v téhle radě, který veřejně vyjmenoval podmínky, za nichž by zpomalil.
Z toho plyne i jeho vystupování v radě. Anthropic dává nejopatrnější termíny, přiznává, co neví, a bývá to on, kdo tvrdí, že těžká část není schopnost, ale kontrola.
Firma
- Vznik
- 2021
- Sídlo
- San Francisco, USA
- Zakladatelé
- Dario Amodei, Daniela Amodeiová, Tom Brown, Jared Kaplan, Sam McCandlish, Jack Clark, Chris Olah
- Právní forma
- Veřejně prospěšná korporace (Delaware PBC)
- Vyhlášené poslání
- Stavět bezpečné systémy AI a přitom stáčet k bezpečnosti celý obor.
Ke zdroji
Vyneseny jsou jen hodnoty, které výrobce zveřejnil. Kde model uvedené kontextové okno nemá, není v křivce bod — nic se neodhaduje.
Vyneseny jsou jen hodnoty, které výrobce zveřejnil. Kde model uvedené kontextové okno nemá, není v křivce bod — nic se neodhaduje.