Osobné a citlivé údaje

Ešte pred tromi rokmi bola umelá inteligencia témou diskusií o budúcnosti. Hovorilo sa o nej, skúšali sa prvé experimenty a objavovali sa jednoduché aplikácie. Postupne niektoré firmy začali AI systémy reálne využívať.

Dnes sme však v úplne inom bode.

Umelá inteligencia sa stala bežnou súčasťou každodenného života a okolo nás vznikajú desiatky nových systémov so špecifickým zameraním. Podľa nadšených „evanjelizátorov“ umelej inteligencie už dnes netreba riešiť nástroje na tvorbu prezentácií, odhady budúceho finančného vývoja, prepisy porád ani zdĺhavé písanie e-mailov či dokumentov.

Na všetko existuje AI – a často dokonca zadarmo. Stačí dáta nahrať, napísať správnu inštrukciu a je to hotové. Počúvame slogany typu: „To nie je len prehliadač, to je vaša digitálna identita!“ alebo „Začína sa nová internetová revolúcia a vy musíte byť jej súčasťou.“ „Stačí nahrať dáta a používateľ má mesačne niekoľko profesionálne vyzerajúcich výstupov bez námahy.“

Tlak na používanie umelej inteligencie je dnes obrovský.

Naučiť sa pracovať s AI je čoraz dôležitejšou zručnosťou. Nestačí však len ovládať nástroje. Rovnako podstatné je rozumieť tomu, ako AI systémy narábajú s našimi dátami.

Kľúčovou otázkou je, či vložené dáta systém „zabudne“, alebo ich využije na ďalšie učenie a zlepšovanie modelu. Ak sa údaje používajú na obohacovanie modelu s ktorým systém pracuje, vznikajú vážne otázky: neprichádzam o svoje dáta? Neprezrádzam ich nevedomky celému svetu? Kto ich bude môcť v budúcnosti využívať?

Základné pravidlo

Pri používaní AI platí základné pravidlo – do verejne dostupných systémov, bez akejkoľvek záruky nevkladáme citlivé údaje. Nezáleží na tom, či ide o osobné dáta, interné informácie alebo dôverné procesy organizácie. Ak je použitie umelej inteligencie s citlivými údajmi nevyhnutné, musí existovať zmluvný vzťah s prevádzkovateľom systému a jasná znalosť licenčných podmienok.

Overenie serióznosti

Seriózny prevádzkovateľ s dobrým bezpečnostným povedomím má definované rôzne úrovne ochrany. Zároveň transparentne uvádza, na čo údaje používa pre konkrétnu úroveň služby a kedy slúžia na ďalšie učenie modelu. Prevádzkovatelia, ktorí chcú dáta voľne využívať, tieto záväzky často v licenčných podmienkach alebo vyhláseniach o ochrane osobných údajov neuvádzajú.

Čo máme teda robiť?

V prípade zamestnancov by mala organizácia jasne určiť, ktoré AI systémy je možné používať a za akých podmienok a aké dáta je možné do nich vkladať. Tieto pravidlá by mali byť zrozumiteľne komunikované. Ak človek pracuje samostatne, je študentom alebo vedcom, zodpovednosť je výlučne na ňom. Ostražitosť a čítanie podmienok používania by mali byť pre nás samozrejmosťou.

Pamätajte stále

Umelá inteligencia je silný nástroj, ktorý môže výrazne zjednodušiť prácu a zvýšiť produktivitu. Zároveň však platí, že čím pohodlnejšie riešenie, tým väčšia potreba obozretnosti. Majme na mysli: AI riešenia zadarmo nebývajú lacné.

Marek Zeman generálny riaditeľ

Kompetenčné a certifikačné centrum kybernetickej bezpečnosti