Dňa 29. septembra 2025 podpísal kalifornský guvernér Gavin Newsom senátny návrh zákona 53, Zákon o transparentnosti v hraničnej umelej inteligencii (TFAIA), čím sa Kalifornia stala prvou jurisdikciou v USA, ktorá ukladá záväzné povinnosti v oblasti bezpečnosti, transparentnosti a nahlasovania incidentov vývojárom výpočtovo najnáročnejších systémov AI. Zákon nadobudol účinnosť 1. januára 2026 a počas uplynulých šiestich mesiacov potichu zmenil spôsob, akým najväčšie laboratóriá AI a rastúci zoznam vývojárov modelov strednej kategórie dokumentujú riziká, zverejňujú rámce riadenia a informujú regulátorov o scenároch katastrofických rizík.
Ak vaša organizácia trénuje, dolaďuje alebo podstatne upravuje základné modely — alebo prevádzkuje veľké výpočtové klastre, na ktoré sa spoliehajú iní vývojári — SB 53 je teraz najdôležitejším zákonom o AI v Spojených štátoch, ktorému musíte rozumieť. Tento sprievodca vás prevedie tým, koho sa zákon týka, čo musíte zverejňovať, ako funguje 15-dňová lehota na hlásenie kritických incidentov, aké povinnosti sa vzťahujú na oznamovateľov (whistleblowerov) a ako preniesť zákon do operatívneho programu na zabezpečenie súladu.
Čo SB 53 skutočne reguluje
Na rozdiel od zákonov o AI v zamestnaní, ktoré sa šíria v jednotlivých štátoch (napríklad miestny zákon NYC 144 alebo zákon o AI v Colorade), SB 53 nereguluje algoritmické nástroje na nábor zamestnancov, modely na upisovanie úverov ani systémy na preverovanie nájomníkov. Zameriava sa na oveľa užšiu kategóriu: hraničné základné modely trénované na mimoriadnych výpočtových škálach a scenáre katastrofických rizík, ktoré z nich môžu vyplynúť.
Zákon sa nachádza na priesečníku dvoch regulačných tradícií. Zo zákona o bezpečnosti výrobkov si požičiava myšlienku, že spoločnosti by mali zverejňovať posúdenia rizík a informovať úrady, keď dôjde k incidentom. Z finančného regulačného práva si požičiava myšlienku, že najväčší hráči nesú ťažšie bremeno zverejňovania informácií ako tí menší. Výsledkom je odstupňovaný režim postavený na dvoch prahových hodnotách.
Prahová hodnota výpočtového výkonu 10^26 FLOPs
„Hraničný model“ je podľa SB 53 definovaný ako základný model trénovaný s použitím viac ako 10^26 celočíselných operácií alebo operácií s plávajúcou desatinnou čiarkou, vrátane kumulatívneho výpočtového výkonu z dolaďovania (fine-tuning) a následných úprav. Táto prahová hodnota je zámerne zosúladená s dnes už zrušeným spúšťačom nahlasovania podľa federálneho exekutívneho príkazu 14110 a úrovňou pre všeobecnú AI v Akte o AI EÚ, takže väčšina veľkých laboratórií v USA už vie, či ju prekračuje.
Často sa však prehliada, že zákon započítava kumulatívny výpočtový výkon z následných úprav. Ak vezmete základný model, ktorý bol trénovaný blízko prahovej hodnoty, a pokračujete v jeho predtrénovaní, vykonávate dolaďovanie pomocou spracovaného učenia (reinforcement learning) alebo zlučujete váhy s iným modelom, môžete derivát posunúť do stavu hraničného modelu, hoci žiadny jednotlivý tréningový cyklus neprekročil 10^26 FLOPs. Katalogizácia každého základného modelu, každého doladenia, každej destilácie a každého zlúčenia váh — a sledovanie FLOPs, ktoré každý krok spotreboval — je teraz nevyhnutnou disciplínou v rámci evidencie.
Prahová hodnota obratu 500 miliónov dolárov pre veľkých vývojárov hraničnej AI
„Veľký vývojár hraničnej AI“ je vývojár hraničnej AI, ktorého subjekt a spriaznené osoby dosiahli v predchádzajúcom kalendárnom roku ročné hrubé výnosy vyššie ako 500 miliónov dolárov. Test výnosov je konsolidovaný: materské spoločnosti, dcérske spoločnosti a spoločne ovládané pridružené spoločnosti sa sčítavajú. Malý startup v oblasti AI, ktorý získal miliardové investičné kolo, ale dosiahol skutočné výnosy vo výške 40 miliónov dolárov, nie je veľkým vývojárom hraničnej AI; verejne obchodovaný technologický konglomerát s malou divíziou AI, ktorá prekračuje prah FLOPs, ním takmer určite je.
Toto rozdelenie je dôležité, pretože veľkí vývojári hraničnej AI nesú najväčšie povinnosti: zverejnenie rámca pre hraničnú AI, vykonávanie posúdení katastrofických rizík, predkladanie štvrťročných súhrnov rizík pri internom používaní Kalifornskému úradu pre núdzové služby (Cal OES) a udržiavanie anonymného interného kanála pre oznamovateľov (whistleblowerov). Menší vývojári hraničnej AI — tí nad prahom FLOPs, ale pod prahom výnosov — musia stále zverejňovať správy o transparentnosti a hlásiť kritické bezpečnostné incidenty, ale nevzťahuje sa na nich režim úplného rámca.
Čo musíte zverejniť: Rámec pre hraničnú AI
Každý veľký vývojár hraničnej AI musí na svojej webovej stránke zverejniť rámec pre hraničnú AI a udržiavať ho aktuálny. Každoročné preskúmanie je povinné a každá podstatná zmena musí vyvolať aktualizáciu do 30 dní od zmeny.
Obhájiteľný rámec rieši minimálne:
- Prahy katastrofického rizika a metódy posudzovania. Aké schopnosti — pomoc pri vývoji chemických, biologických, rádiologických, jadrových zbraní; útok na kritickú infraštruktúru veľkého rozsahu; scenáre autonómnej straty kontroly agentom — by vývojár považoval za prekročenie katastrofického prahu? Ako bude vývojár testovať tieto schopnosti pred nasadením?
- Stratégie na zmiernenie rizík. Konkrétne opatrenia pred nasadením: tréning odmietania, tlmenie schopností, obmedzenia nasadenia, monitorovaný prístup, postupné nasadzovanie a monitorovanie po nasadení.
- Hodnotenia tretími stranami. Ktoré externé „red tímy“, hodnotitelia a audítori budú model posudzovať a ako budú ich zistenia zapracované?
- Kybernetické protokoly pre nezverejnené váhy modelov. Kontrola vnútorných hrozieb, hardvérové bezpečnostné moduly (HSM), segmentácia siete a logovanie prístupov, ktoré chránia váhy pred nasadením pred krádežou.
- Postupy reakcie na kritické bezpečnostné incidenty. Kto rozhoduje o tom, či je incident nahlásiteľný, ako sa spúšťa 15-dňová lehota a ako spoločnosť koordinuje prácu s Cal OES.
- Mechanizmy interného riadenia. Dohľad na úrovni predstavenstva, rola dôstojníka pre bezpečnosť AI, cesty eskalácie a periodicita bezpečnostných previerok.
- Zosúladenie so štandardmi. Explicitné mapovanie na NIST AI Risk Management Framework (AI RMF 1.0) a ISO/IEC 42001, ktoré zákon považuje za základné východiská.
Rámec nie je marketingovým dokumentom. Je to dokument určený pre regulátorov, ktorý môže generálny prokurátor použiť na posúdenie, či verejné záväzky spoločnosti zodpovedajú jej internej praxi. Správny prístup je pripravovať ho s rovnakou prísnosťou ako zverejnenie rizikových faktorov pre SEC alebo popis systému SOC 2.
Správy o transparentnosti pred každým nasadením
Každý vývojár prelomových modelov — nielen tí veľkí — musí pred nasadením nového alebo podstatne upraveného prelomového modelu zverejniť správu o transparentnosti. Správa o transparentnosti je dokument špecifický pre daný model, oddelený od rámca, ktorý musí obsahovať:
- Názov spoločnosti, webovú stránku a kontaktný mechanizmus pre obavy týkajúce sa bezpečnosti
- Dátum vydania modelu a zoznam podporovaných jazykov a výstupných modalít
- Zamýšľané použitie a príslušné obmedzenia používania
- Pre veľkých vývojárov súhrn hodnotení katastrofických rizík a ich výsledky, vrátane informácie o tom, či a ako boli zapojení hodnotitelia z tretích strán
„Podstatná úprava“ zahŕňa zásadné vylepšenia schopností, pridanie nových modalít a významné zmeny v mixe tréningových dát. Opravné vydania (patch releases) a rutinné jemné doladenie bezpečnosti vo všeobecnosti nevyžadujú novú správu o transparentnosti, ale hraničné prípady by mali byť doložené písomným odôvodnením pre prípad, že by sa generálny prokurátor neskôr pýtal, prečo správa nebola zverejnená.
15-dňová lehota na nahlasovanie kritických incidentov
Povinnosť dodržiavania predpisov, ktorá najviac prekvapila interných právnych poradcov, je časový rámec na nahlasovanie incidentov. Vývojári prelomových modelov musia informovať kalifornský Úrad pre núdzové služby (Cal OES) o kritickom bezpečnostnom incidente do 15 dní od jeho zistenia, pričom v prípade, že incident predstavuje bezprostrednú hrozbu pre verejnú bezpečnosť, platí prísnejšia 24-hodinová lehota.
Zákon definuje kritický bezpečnostný incident široko:
- Neoprávnený prístup k nevydaným váham modelu alebo ich krádež
- Naplnenie katastrofického rizika
- Strata kontroly vývojára nad nasadeným modelom
- Zavádzajúce alebo vyhýbavé správanie modelu, ktoré prekonáva ochranné opatrenia
Budovanie obhájiteľného interného procesu znamená zodpovedanie troch otázok ešte pred vznikom incidentu:
- Kto rozhoduje? Právomoc spustiť časomieru nahlasovania by mal mať jeden konkrétny menovaný pracovník (často hlavný dôstojník pre bezpečnosť AI alebo určený zástupca) s dokumentovanými kritériami eskalácie.
- Čo spúšťa časomieru? Spúšťačom je „zistenie“. Interná dokumentácia by mala presne zachytiť, kedy bol incident zistený, kým a prostredníctvom akého monitorovacieho systému, pretože 15-dňové okno sa počíta od tohto momentu.
- Ako sa správa odosiela? Cal OES udržiava dôverný proces prijímania podaní od vývojárov. Tím zodpovedný za nahlasovanie by si mal nacvičiť postup podávania — vrátane šifrovaného prenosu citlivých technických detailov — v dostatočnom predstihu pred akýmkoľvek skutočným incidentom.
Pre veľkých vývojárov prelomových modelov ide táto povinnosť nad rámec reaktívneho nahlasovania incidentov. Každé tri mesiace (alebo podľa iného primeraného harmonogramu) musia veľkí vývojári zaslať úradu Cal OES súhrn akéhokoľvek hodnotenia katastrofických rizík vyplývajúcich z interného používania ich prelomových modelov. Táto štvrťročná periodicita je špecifická pre SB 53 a je to prvýkrát, čo americký zákon uložil laboratóriám AI povinnosť podávať správy o rizikách plynúcich z prebiehajúceho interného používania orgánu výkonnej moci.
Ochrana oznamovateľov a anonymný interný kanál
SB 53 dopĺňa všeobecný kalifornský režim ochrany oznamovateľov o súbor špecifických ochrán pre AI, ktoré sa vzťahujú na „dotknutých zamestnancov“ — tých, ktorých povinnosti zahŕňajú posudzovanie, riadenie alebo riešenie rizika katastrofických škôd spôsobených prelomovými modelmi.
Vývojári prelomových modelov nesmú dotknutému zamestnancovi brániť v poskytnutí informácií ani voči nemu vyvodzovať odvetné opatrenia za poskytnutie informácií:
- Kalifornskému generálnemu prokurátorovi
- Federálnemu regulačnému orgánu
- Priamemu nadriadenému alebo inému nadriadenému s právomocou viesť vyšetrovanie
- Inému dotknutému zamestnancovi, ktorého povinnosti zahŕňajú posudzovanie rizík
Chránené oznámenia sa týkajú (a) odôvodneného presvedčenia, že aktivity vývojára predstavujú špecifické a podstatné nebezpečenstvo pre verejné zdravie alebo bezpečnosť z hľadiska katastrofického rizika, a (b) odôvodneného presvedčenia, že vývojár porušil samotný zákon SB 53.
Veľkí vývojári prelomových modelov musia tiež udržiavať anonymný interný kanál na podávanie správ. Zákon vyžaduje:
- Pracovný postup umožňujúci dotknutým zamestnancom podávať anonymné oznámenia o obavách z katastrofických rizík
- Mesačné aktualizácie stavu vyšetrovania pre oznamujúceho zamestnanca
- Štvrťročné brífingy pre vedúcich pracovníkov a riaditeľov, ktoré sumarizujú oznámenia a výsledky, pričom z okruhu účastníkov brífingu musia byť vylúčené menované osoby obvinené z pochybenia
Súdy môžu úspešným žalobcom v prípadoch odvety priznať náhradu trov právneho zastúpenia. Rozhodujúce je, že zákon presúva dôkazné bremeno: keď dotknutý zamestnanec preukáže, že chránená aktivita bola prispievajúcim faktorom k nepriaznivému opatreniu, vývojár nesie dôkazné bremeno, že toto opatrenie by nastalo aj z nezávislých legitímnych dôvodov.
Definícia katastrofického rizika
Ťažiskom SB 53 je jeho definícia „katastrofického rizika“. Zákon ho definuje ako predvídateľné a materiálne riziko, že prelomový model podstatne prispeje k smrti alebo vážnemu zraneniu viac ako 50 ľudí, alebo ku škode na majetku či strate majetku v hodnote vyššej ako 1 miliarda dolárov, a to prostredníctvom jedného z troch príčinných mechanizmov:
- Pomoc pri vývoji zbraní. Podstatné prispenie k vytvoreniu, nasadeniu alebo použitiu chemickej, biologickej, rádiologickej alebo jadrovej zbrane alebo kybernetickej zbrane spôsobujúcej porovnateľnú škodu.
- Nekontrolované škodlivé konanie. Konanie modelu s obmedzeným ľudským dohľadom, ktoré by v prípade, že by sa ho dopustil človek, predstavovalo závažný trestný čin vyžadujúci úmysel.
- Strata kontroly. Strata kontroly vývojára nad modelom takým spôsobom, že sa dopúšťa podstatne škodlivého konania.
Definícia obsahuje dôležité výnimky. Riziká založené na informáciách, ktoré sú už verejne dostupné, škody vzniknuté v dôsledku zákonnej federálnej činnosti a škody, pri ktorých príspevok modelu nie je podstatný, nespadajú do pôsobnosti zákona. Táto výnimka je to, čo bráni tomu, aby riziká každodenných aplikácií — zaujatosť pri prezeraní životopisov, halucinované lekárske rady, porušovanie autorských práv — spustili režim katastrofických rizík. Tieto škody sú skutočné, ale riešia ich iné zákony, nie SB 53.
Občianskoprávne sankcie a presadzovanie
Generálny prokurátor Kalifornie má výhradnú právomoc na presadzovanie práva. Občianskoprávne pokuty môžu dosiahnuť až 1 milión USD za každé porušenie, pričom sa určujú podľa závažnosti konania. Samotný zákon SB 53 neposkytuje súkromné právo na podanie žaloby, hoci ustanovenia o ochrane oznamovateľov (whistleblowerov) pred odplatou sú nezávisle vymáhateľné prostredníctvom občianskoprávnych žalôb podaných poškodenými zamestnancami.
V praxi sa riziko presadzovania sústreďuje do troch oblastí:
- Obchádzanie limitov (Threshold gaming). Spoločnosti, ktoré štruktúrujú tréningové behy tak, aby zostali tesne pod hranicou 10^26 FLOPov, zatiaľ čo dodávajú schopnosti jednoznačne patriace do kategórie „frontier“, budú pod prísnym dohľadom. Formulácia zákona o kumulatívnom výpočtovom výkone robí túto stratégiu riskantnou.
- Medzery v rámci. Rámec, ktorý uvádza zásady bez dôkazov o ich implementácii, bude ľahšie napadnuteľný než ten, ktorý spája každý záväzok s prevádzkovými artefaktmi, menovanými vlastníkmi a auditnými záznamami.
- Oneskorenie hlásenia incidentov. Zmeškanie 15-dňovej lehoty alebo 24-hodinovej lehoty pre bezprostrednú hrozbu je presne ten typ jasného a zdokumentovateľného porušenia, ktoré regulátori historicky stíhajú veľmi agresívne.
Vypracovanie 90-dňového implementačného plánu
Pre organizáciu, ktorá ešte nezaviedla program SB 53, sa osvedčil nasledujúci postup:
1. až 30. deň: Analýza rozsahu a nedostatkov.
- Zostavte zoznam každého základného (foundation) modelu, ktorý bol trénovaný, doladený (fine-tuned), zlúčený alebo podstatne upravený, s odhadovaným kumulatívnym výpočtovým výkonom pre každý z nich.
- Určite, či konsolidované výnosy (vrátane všetkých pridružených spoločností) presiahli 500 miliónov USD v predchádzajúcom kalendárnom roku.
- Vytvorte medzifunkčnú pracovnú skupinu pre bezpečnosť a súlad AI (AI Safety and Compliance Working Group) so zástupcami z inžinierstva, bezpečnosti, právneho oddelenia, komunikácie a HR.
- Porovnajte súčasné postupy s NIST AI RMF 1.0 a ISO/IEC 42001, aby ste identifikovali medzery.
31. až 60. deň: Návrh a riadenie.
- Vypracujte rámec pre frontier AI ako dokumentovanú, verejne publikovateľnú verziu.
- Vytvorte metodiku posudzovania katastrofických rizík, vrátane vyhodnocovania schopností, modelovania hrozieb a kritérií pre vyhlásenie modelu za model so schopnosťami „frontier“ v nebezpečnej doméne.
- Zaveďte kontroly kybernetickej bezpečnosti pre nezverejnené váhy (unreleased weights) s dokumentovanými prístupovými protokolmi a monitorovaním vnútorných hrozieb.
- Zriaďte anonymný interný kanál na podávanie správ a pracovný postup pre mesačné aktualizácie stavu a štvrťročné brífingy pre predstavenstvo.
61. až 90. deň: Prevádzková pripravenosť.
- Vykonajte stolové cvičenie (tabletop exercise) reakcie na incidenty, ktoré simuluje odhalenie incidentu krádeže váh a materializáciu katastrofického rizika, a následne si precvičte 15-dňové a 24-hodinové postupy hlásenia.
- Preškoľte príslušných zamestnancov o právach oznamovateľov a o anonymnom kanáli.
- Zverejnite správu o transparentnosti pre akýkoľvek model v procese nasadzovania s krížovým odkazom na rámec pre frontier AI.
- Naplánujte do kalendára štvrťročné predkladanie súhrnov katastrofických rizík úradu Cal OES a každoročné preskúmanie rámca.
Koordinácia s inými režimami AI a ochrany osobných údajov
Zákon SB 53 nestojí osamote. Tímy pre súlad s predpismi by ho mali porovnať s:
- Rámcom NIST pre riadenie rizík AI (NIST AI RMF), na ktorý zákon výslovne odkazuje a ktorý poskytuje veľkú časť vecnej štruktúry riadenia.
- Úrovňou pre všeobecné modely AI v Akte EÚ o umelej inteligencii (EU AI Act), kde je prekryv dokumentácie podstatný a jediný harmonizovaný interný rámec môže uspokojiť oba predpisy.
- Kolorádskym zákonom o AI (Colorado AI Act) a texaským zákonom o zodpovednom riadení AI (Texas Responsible AI Governance Act), ktoré upravujú povinnosti subjektov nasadzujúcich AI pri rozhodovaní s vysokým rizikom a môžu sa vzťahovať na vašich koncových zákazníkov.
- Kalifornským zákonom o ochrane súkromia spotrebiteľov (CCPA) a nadchádzajúcimi pravidlami kalifornskej agentúry pre ochranu súkromia o technológiách automatizovaného rozhodovania, ktoré sa prelínajú s nasadzovaním modelov, ale fungujú nezávisle od SB 53.
- Dobrovoľnými záväzkami federálneho inštitútu pre bezpečnosť AI (AI Safety Institute) a akýmikoľvek budúcimi federálnymi právnymi predpismi, ktoré by mohli zmeniť základnú úroveň súladu.
Presné záznamy o súlade a jasné auditné stopy sú nevyhnutné vo všetkých týchto režimoch — a rovnaká disciplína v dokumentácii, ktorá podporuje finančné výkazníctvo, podporuje aj výkazníctvo o riadení AI. Rámce pre frontier AI, posúdenia katastrofických rizík, protokoly o incidentoch a záznamy o prešetrovaní oznamovateľov by sa mali uchovávať najmenej päť rokov a ukladať spôsobom, ktorý prežije personálne zmeny vo vedení aj reštrukturalizáciu spoločnosti.
Udržujte svoje záznamy o súlade a finančné záznamy pripravené na audit
Či už publikujete rámec pre frontier AI, plánujete štvrťročné podania pre Cal OES alebo sa pripravujete na vyšetrovanie generálnym prokurátorom, základná disciplína je rovnaká: jasné, auditovateľné záznamy so správou verzií. Rovnaký prístup založený na prostom texte a správe verzií, ktorý tímy natívne pracujúce s AI používajú pre svoje kódové bázy, funguje skvele aj pre ich účtovné knihy. Beancount.io poskytuje účtovníctvo v prostom texte, ktoré vám dáva úplnú transparentnosť a kontrolu nad vašimi finančnými údajmi — žiadne „čierne skrinky“, žiadna viazanosť na dodávateľa a čistá auditná stopa, ktorá prirodzene dopĺňa disciplínu riadenia, ktorú dnes regulátori očakávajú. Začnite zadarmo a zistite, prečo vývojári a finanční odborníci prechádzajú na účtovníctvo v prostom texte.