DataOrganizer

Kam putují data, která vkládáte do AI? Pamatuje si je model? Uvidí je někdo jiný? Poctivá odpověď začíná tím, čím model fyzicky je.

Otázka bezpečnosti dat v AI je oprávněná a zaslouží si lepší odpověď než „naše systémy jsou bezpečné“. Abyste opravdu pochopili, co se děje s daty, která modelu předáte, musíte nejdřív vědět, čím model je. Ne v marketingovém smyslu, ale ve fyzickém.

Vrstva 01

Model je soubor. Velký soubor čísel.

Než model odpoví na vaši otázku, musí někde existovat. A existuje v překvapivě prozaické podobě: je to soubor na disku. Obsahuje miliardy čísel a každé z nich zakódovalo nějaký vzorec z tréninku. Nejsou v něm věty, vzpomínky ani tabulky. Jen čísla. U velkého modelu má tento soubor desítky až stovky gigabajtů.

Aby model mohl fungovat, nahraje se tento soubor do paměti grafických karet (GPU) v datovém centru. Ne na běžný server, ale do specializovaných strojů s desítkami propojených karet. Jediná vaše otázka spustí matematickou operaci nad miliardami těchto čísel, prováděnou paralelně, ve zlomku sekundy.

Vrstva 02

Kontextové okno: dočasná pracovní paměť

Když je model zmrazený soubor čísel, jak vůbec „ví“, na co se ptáte? Díky tzv. kontextovému oknu, dočasnému prostoru, do kterého se dostane vše, co se účastní aktuální konverzace. Vaše otázka, historie této konverzace, data načtená přes MCP, systémové instrukce. To vše je přítomné současně, jako dokumenty rozložené na stole před odborníkem.

Když konverzace skončí, stůl se uklidí. V modelu nic nezůstane. Nic se nedostane do vah. Další konverzace začíná s prázdným stolem.

Vrstva 03

Vektory: slovo, které zní hrozivěji, než je

V souvislosti s AI se často objevuje slovo „vektor“ nebo „vector store“. Zní technicky a budí obavy. Ve skutečnosti jde o způsob, jak převést význam na čísla.

Představte si vícerozměrný prostor, ve kterém má každé slovo a každá věta své místo. Slova s podobným významem jsou blízko sebe. „Faktura“ a „účet“: blízko. „Tržby“ a „příjem“: blízko. „Pes“ a „traktor“: daleko. Vektor je prostě sada souřadnic v tomto prostoru.

Vector store je databáze takových reprezentací, která se používá, když chcete, aby model rychle našel správnou pasáž ve velkém souboru dokumentů. Model ale v této databázi „nebydlí“ a nepohlcuje ji. Nahlédne do ní, vezme, co potřebuje, do kontextového okna a odpoví. Je to slovník, ne paměť.

Vrstva 04

Kalkulačka, statistický stroj, nebo něco třetího?

Když už víme, jak model fyzicky funguje, můžeme poctivě odpovědět na otázku z názvu. Kalkulačka je deterministická: stejný vstup vždy dává stejný výstup, bez jakéhokoli porozumění kontextu. Statistický stroj hledá v číslech vzorce, ale nespojuje pojmy. Jazykový model dělá něco třetího: chápe smysl, propojuje souvislosti a vyvozuje závěry. Nepamatuje si vás však a průběžně se od vás neučí.

Nejvýstižněji ho popisuje označení expert bez epizodické paměti. Přečetl všechno, ale každé setkání začíná od nuly. Přinesete dokumenty, probere je s vámi a odejde. Nebere si je s sebou. Nesdílí je s dalším klientem.

Vrstva 05

Co to znamená pro bezpečnost vašich dat

Bez souhlasu s trénováním modelu se vaše data do vah nedostanou. Neaktualizují obecný model a nestávají se součástí znalostí, které využívají ostatní uživatelé. Model, který vám dnes odpověděl, je totožný s tím, jaký byl před vaší konverzací.