Spock & Data (RO)

M-am bucurat tare mult de revederea cu Vasile și de conversația noastră foarte fluidă, înregistrată în episoadele 06a și 06b ale podcastului Rule of Law Rules în limba română. M-a liniștit și m-a asigurat că «inteligența artificială» nu-i chiar foarte inteligentă (încă!) și m-a uns pe suflet c-am putut discuta nu doar despre inițiativele de reglementare, ci și despre riscurile și beneficiile pentru omul obișnuit. Sigur că m-am emoționat c-am putut vorbi cu el și despre Star Trek, pentru că două episoade (din 1968 și din 1989) erau extrem de relevante în conversația asta. Spre final, am discutat și despre situația românilor din Ucraina, că nu puteam rata momentul—mai ales cu un interlocutor născut acolo 😉 Audiție plăcută! Ah, de luna asta, podcastul nostru e disponibil pe Apple, Google, Spotify, Deezer sau Audible 😉

Episodul 6a: Inteligența artificială în justiție și administrație

L-am invitat alături de noi pe Vasile Țiple, născut în Ucraina, absolvent al Facultății de Drept din Universitatea București. În ultimii ani, Vasile a condus departamentul juridic al unei companii românești de software pentru automatizarea proceselor robotizate, până când compania a fost listată pe bursă. Acum, însă, compania la care a lucrat el nu se mai supune dreptului românesc ori european, ci dreptului internațional. Prin urmare, Vasile și-a luat o pauză, căutându-și viitorul în lumea dreptului și tehnologiei. Noi am profitat de faptul că are mai mult timp liber, să-l descoasem un pic despre ce înseamnă inteligența artificială și cum se pot aplica noile tehnologii în justiție și în administrație.

Conversația noastră ne poartă între teorie și practică, motiv pentru care facem referire la o mulțime de aplicații, platforme sau programe software—însă numai cu titlu de exemplificare, nu de publicitate. Discuția noastră ne poartă și prin exemple instituționale foarte diverse, din România sau din străinătate—iar aceste exemple nu semnifică vreo preferință, ci doar ilustrează metode de lucru. În dialogul nostru, amintim de instanțele digitale experimentale din Statele Unite și Marea Britanie, de semnătura electronică (pe care Primăria Sinaia chiar o folosește corect), de dosarul electronic pentru contractele de muncă sau chiar de poziționarea României pe indicatorii de evaluare din topul DESI.

Pentru cine dorește să afle mai multe despre digitalizarea justiției, recomandăm episoadele 7-9 din podcastul Digitală-i Zarea și proaspăt-publicatul studiu CEELI ori și-mai-recentele îndrumări ale Consiliului Europei, iar pentru cei curioși despre conturile instituțiilor publice pe rețelele sociale, oferim o recomandare din Germania. Spre finalul primei părți a discuției cu Vasile Țiple, amintim de inițiativele de reglementare privind inteligența artificială, atât în Uniunea Europeană, cât și în Statele Unite. Însă dezbaterea despre transformarea digitală și/sau inteligența artificială ar trebui să folosească expresia „sisteme automatizate” sau „automatizarea sistemelor,” așa cum ne îndeamnă antropologul Alec Bălășescu.

În dialogul nostru, Vasile folosește mai multe expresii în limba engleză, ele fiind cu adevărat inevitabile pentru subiectele discutate în această primă parte a episodului 6:

• legal tech(nology) se referă la noile tehnologii aplicate în lumea dreptului;
• AI (citit «ei-ai»), de la artificial intelligence, înseamnă chiar inteligență artificială;
• AI system se referă la un sistem computerizat, bazat pe inteligență artificială;
• accurate se referă la precizie, acuratețe;
• machine learning desemnează un sistem computerizat care „învață” ceva de unul singur (de fapt, pe baza codului introdus în software de programatori);
• online courts se referă la instanțe de judecată care funcționează online, automatizat;
• playbook desemnează un cadru de politici și/sau proceduri de urmat în luarea unei decizii ori în desfășurarea unui proces tehnologic;
• API (citit «ei-pi-ai» sau chiar «api»), de la application programming interface, desemnează un set de algoritmi prin care două sau mai multe aplicații ori programe software se pot recunoaște una pe cealaltă, pentru a îndeplini o nouă funcție, care nu a fost inițial programată;
• OCR (citit «o-si-ar» sau chiar «o-ce-re»), de la optical character recognition, desemnează abilitatea unui scanner de-a recunoaște existența unor litere scrise pe un suport și de-a le transcrie în format electronic;
• image recognition se referă la o abilitate similară a unui computer, de-a recunoaște forme (cercuri, pătrate, triunghiuri) sau conținutul unor imagini (casă, oameni, câine);
• template înseamnă șablon;
• disruption se referă la o schimbare radicală, datorată unei inovații tehnologice;
• user interface se referă la modul în care interacționează utilizatorul cu algoritmii sau cu software-ul dinăuntrul unui computer;
• pros & cons se referă la argumentele pro și contra unei decizii;
• vendor nu este doar un vânzător, ci poate fi și un distribuitor al unui produs ori serviciu; de obicei, un vendor își desfășoară activitatea integral online;
• refund înseamnă returnarea unei plăți sau a unei părți din plată, deși banii cumpărătorului erau deja încasați de vânzător;
• developer e folosit cu sensul de programator care dezvoltă modalități de utilizare a unor algoritmi, aplicații sau programe software.

Varianta în limba română a podcastului Rule of Law Rules este găzduită de Codru Vrabie (la microfon) și editată de Paul Chioveanu (la montaj). În acest episod, am folosit următoarele melodii de fundal:

• rinkef intro și rinkef outro, produse de KAS/RLPSEE în centrala din Berlin, respectiv
• Modern Time (de An Jone) și Ticker (de Silent Partner), disponibile în YouTube Audio Library sub o licență standard YTAL/Atribuirea nu este obligatorie.

Sursa ilustrației: prelucrare după o fotografie de Mike MacKenzie, CC BY 2.0—”Machine Learning & Artificial Intelligence,” august 2018.

Episodul 6b: Omul și mașina—relație reciproc avantajoasă?

În a doua parte a conversației noastre cu Vasile Țiple, continuăm dialogul despre inițiativele de reglementare care privesc inteligența artificială, ne amintim câteva episoade din faimosul serial Star Trek și povestim un pic despre situația românilor din Ucraina, închizând episodul tot cu referire la inițiativele de reglementare. Știm că acest episod a fost mai lung decât de obicei, ambele părți depășind limita de 30 de minute, însă credem că substanța discuțiilor merită investiția în timpul de ascultare.

În dialogul despre inițiativa europeană de reglementare a „inteligenței artificiale,” Vasile amintește de achiziția Google-DoubleClick (2008) și scoate în evidență motivele pentru care abordarea UE încă nu se ridică la înălțimea așteptărilor. În context, Vasile face referire și la conceptul de AE (automated enterprise, adică o întreprindere sau activitate umană complet automatizată; ori chiar „automatizare eficientă”), ceea ce aduce în conversație și subiecte pe care le-am mai dezbătut în episodul 5b (deciziile CEDO împotriva Marii Britanii și împotriva Suediei), respectiv episodul 1b (cazul poliției locale din Cluj-Napoca). Discuția ne amintește și de niște idei care au fost dezbătute în serialul de televiziune Star Trek, încă din 1989 (The Measure of a Man) sau chiar din 1968 (The Ultimate Computer). Fără a duce discuția într-o notă filozofică, Vasile face referire la Holocaust și «banalitatea răului» (vezi Hannah Arendt, „Eichmann la Ierusalim. Raport asupra banalității răului”).

L-am provocat pe Vasile să trecem granița în Ucraina, adică am vrut să profităm de faptul că el s-a născut acolo, să aflăm mai multe despre ce se mai întâmplă în vecinătatea noastră. Prima referință a fost la utilizarea tehnologiei blockchain în achizițiile publice—din nefericire, dincolo de o știre din septembrie 2017, nu pare să existe progres în această direcție experimentală. Însă Vasile a adus în discuție situația românilor din Ucraina, despre care el a scris o serie de articole pe platforma Contributors, respectiv în Dilema Veche. Criticile lui se împart în mod egal asupra măsurilor luate de statul ucrainean și asupra lipsei de strategie a statului român, Vasile dorindu-și foarte tare să existe egalitate de tratament între etnicii români și ucraineni, indiferent de care parte a graniței trăiesc aceștia.

Spre final, readucem în discuție rolul pe care-l poate juca automatizarea sistemelor în eliminarea discriminării (sau chiar a corupției, cum am discutat în partea întâi), Vasile explicând mai bine decât în prima parte ce înseamnă cu adevărat machine learning. Astfel, discuția noastră se leagă foarte bine de subiectele din episodul 01a, episoadele 04a și 04b, respectiv episodul 05a. Iar fluxul conversației reia câteva sugestii practice pentru inițiativa europeană de reglementare, astfel încât UE să permită dezvoltarea experimentală a unor proiecte de automatizare a sistemelor, în condiții transparente și predictibile pentru cetățeni, respectiv sigure pentru ei—din perspectiva respectării drepturilor și libertăților fundamentale ale omului.

În dialogul nostru, Vasile folosește mai multe expresii în limba engleză, unele dintre ele fiind inevitabile pentru subiectele discutate în partea a doua a episodului 6:

• regulatory sandbox este un cadru de funcționare care le permite unor actori economici aflați la început de drum să piloteze ori să experimenteze cu noi produse și servicii, oarecum izolați de rigorile unor reglementări mai stricte; în mod obișnuit, activitățile experimentale se desfășoară sub atenta supraveghere a unei agenții de reglementare;
• set up for failure se referă la un complex de împrejurări care conduc către eșec;
• start-up se referă, în mod obișnuit, la o companie, societate sau afacere de mici dimensiuni, care se află la început, dar are potențial de creștere în piață; și statul român are (sau a avut) un program de sprijin pentru întreprinderi mici și mijlocii, denumit chiar Start-Up Nation;
• to the point se referă la ceva direct relevant, „la obiect”;
• facial recognition se referă la abilitatea unui computer de-a recunoaște fețe/figuri ale oamenilor, eventual având și capacitatea de-a identifica persoana;
• banality of evil este expresia originală pentru banalitatea răului;
• mutually beneficial înseamnă chiar reciproc avantajos, așa cum am spus și în înregistrare;
• checkbox se referă la o caracteristică sau o activitate, ori un criteriu, care trebuie bifate într-un proces decizional—sau chiar la căsuța în care se pune o bifă;
• struggle înseamnă luptă ori strădanie;
• going forward se referă la mersul înainte, spre viitor, la modalitățile de avansare și dezvoltare într-un domeniu de activitate;
• blackbox înseamnă cutie neagră, dar se referă și la situația (din teoria sistemelor) în care ceva funcționează fără să știm cum, pentru că nu putem vedea procesele dinăuntru;
• privacy se referă la viața privată, la dreptul de-a păstra anumite aspecte ale vieții private (inclusiv datele personale) protejate față de public ori chiar față de stat și autorități;
• flow înseamnă flux ori curgere și se referă la modul în care decurge ori se desfășoară un anumit proces, un fenomen sau o poveste;
• legally safe se referă la o situație sau o persoană care este ori se simte sigură, în siguranță ori protejată din punct de vedere legal;
• legally compliant se referă la conformitatea concomitentă cu rigorile mai multor legi;
• stuck se referă la situația în care ești fie blocat, fie nevoit să urmezi o anumită cale; ori când ai rămas într-o situație fără ieșire.

Varianta în limba română a podcastului Rule of Law Rules este găzduită de Codru Vrabie (la microfon) și editată de Paul Chioveanu (la montaj). În acest episod, am folosit următoarele melodii de fundal:

• rinkef intro și rinkef outro, produse de KAS/RLPSEE în centrala din Berlin, respectiv
• Voices (de Patrick Patrikios), disponibilă în YouTube Audio Library sub o licență standard YTAL/Atribuirea nu este obligatorie.

Actualizare, 29 august: Am găsit acest video, publicat acum vreo 2 săptămâni, care mi se pare extrem de util în completarea discuției cu Vasile 🙂