Predmet: Umjetna inteligencija: od koncepta do primjene

Nastavna cjelina: Moralne i etičke dileme UI

Nastavni sat: Moralne i etičke dileme u slučaju UI halucinacija

Trajanje: 2 školska sata (90 minuta)

Ishodi sata

Učenici ostvaruju sljedeće ishode:

• identificirati pojam "AI halucinacija" i njezinu primjenu
• raspraviti o etičkim dilemama uzrokovanim AI halucinacijama
• izraditi prezentaciju o moralnim i etičkim izazovima vezanima uz AI halucinacije

Tijek održanog sata                                                 

1. Uvodni dio

• Uvod u pojam "AI halucinacija"
  Sat je započeo objašnjenjem pojma "halucinacija" u umjetnoj inteligenciji: kada AI generira netočne ili izmišljene informacije, bez temelja u stvarnim podacima.
• Primjeri iz prakse
  Prikazani su primjeri AI halucinacija u stvarnim situacijama, kao što su netočne preporuke financijskih proizvoda ili lažno prepoznavanje korisničkih preferencija.

2. Grupni rad – Analiza etičkih dilema

• Podjela u grupe i analiza
  Učenici su se podijelili u grupe i analizirali specifične scenarije AI halucinacija u ekonomiji i trgovini. U grupama su diskutirali o pitanjima poput:
  • Koje su posljedice AI halucinacija npr. u ekonomiji?
  • Tko snosi odgovornost za štetu ili nesporazume uzrokovane lažnim podacima?
  • Koje su mogućnosti za rješavanje ili prevenciju ovih problema?

3. Primjeri AI halucinacija

Nakon grupne diskusije, učenici su predstavili i razmotrili nekoliko primjera AI halucinacija:

1. Lijek koji ne postoji:
   Zamislimo aplikaciju za medicinske savjete koja koristi umjetnu inteligenciju. Kada korisnik postavi pitanje o liječenju određene bolesti, AI halucinira i preporuči "novi lijek" koji zapravo ne postoji. Ova halucinacija može zbuniti korisnike, posebno ako "lijek" ima uvjerljivo ime. Na sreću, liječnici bi mogli brzo uočiti pogrešku, ali pacijenti bez medicinskog znanja mogu biti zavedeni.
2. Pogrešne financijske preporuke:
   U financijskim aplikacijama, AI algoritmi mogu generirati preporuke za investicije koje nisu relevantne za korisnikovu financijsku situaciju. Npr., aplikacija može sugerirati ulaganje u visokorizične fondove korisnicima koji traže sigurnije opcije, što može rezultirati gubitkom novca i povjerenja u financijske institucije.
3. Izmišljeni povijesni događaji:
   AI chatbot specijaliziran za povijest upitaju o određenom razdoblju, i on halucinira izmišljajući događaj, poput bitke koja se nikada nije dogodila ili savezništva između nacija koje nikad nisu surađivale. Ovaj izmišljeni događaj može zbuniti učenike ili istraživače koji koriste chatbot kao pomoć za učenje povijesti.
4. Neobične kulinarske kombinacije:
   AI aplikacija za recepte može halucinirati i predložiti kombinacije sastojaka koje su nespojive, poput "jagode s češnjakom u umaku od soje." Iako ovo može izgledati kao avanturistički kulinarski prijedlog, za većinu korisnika bi bio zbunjujući i nepraktičan. U nekim slučajevima, AI bi čak mogao predložiti opasne kombinacije sastojaka, npr. koji izazivaju alergijske reakcije ili su toksični u određenim uvjetima.
5. Izmišljeni ekološki savjeti:
   AI asistent specijaliziran za ekologiju može dati savjet o "prirodnom pesticidu" za kućni vrt koji uključuje biljke ili tvari koje zapravo štete biljkama ili čak ljudima. Takve halucinacije mogu dovesti do uništenja biljaka, trovanja, ili u najmanju ruku – frustracije korisnika koji traže ekološka rješenja.
6. Preporuka za pogrešan put u navigaciji:
   AI u aplikaciji za navigaciju može halucinirati i predložiti put koji vodi kroz privatne ceste, nedovršene ili čak zatvorene mostove. Korisnik može završiti na nepristupačnom terenu ili mjestima gdje vožnja nije dopuštena, što može uzrokovati gubitak vremena ili čak opasno

4. Izrada prezentacije

• Zadatak
  Svaka grupa izradila je kratku prezentaciju (4-5 slajdova) o zadanoj etičkoj dilemi vezanoj uz AI halucinacije, koja uključuje:
  • Opis situacije i posljedice za korisnike.
  • Analizu moralnih i etičkih dilema.
  • Prijedloge za odgovorno korištenje AI u praksi.

Učenici su koristili digitalni alat za izradu prezentacija (npr. Google Slides) i pripremili se za predstavljanje svojih zaključaka pred razredom.

5. Zaključak i diskusija

• Prezentacija i diskusija
  Svaka grupa predstavila je svoj rad ostalim učenicima, nakon čega je uslijedila kratka rasprava o izazovima i važnosti etičnog korištenja AI u poslovnom sviju I životu općenito. Razgovaralo se i o potrebi za regulacijom AI tehnologija koje koriste biometrijske i druge osobne podatke korisnika.

U prosincu 2024. godine, učenici će posjetiti Muzej iluzija kako bi bolje razumjeli koncept AI halucinacija. Ova posjeta povezana je s učenjem o tome kako AI sustavi mogu "vidjeti" ili "interpretirati" informacije na pogrešan način, slično kao što ljudski mozak ponekad interpretira optičke iluzije. Kroz interaktivne izložbe, učenici će doživjeti iluzije koje "zavaravaju" mozak i uvidjeti kako slični procesi mogu dovesti do pogrešaka u umjetnoj inteligenciji. Ova iskustva pomoći će im u shvaćanju zašto AI ponekad generira nelogične ili pogrešne informacije te naglašavaju važnost kritičkog pristupa u primjeni tehnologije.

Zaključna refleksija

Učenici su kroz ovu vježbu kao i kroz posjet Muzeju iluzija bolje razumjeli rizike i odgovornosti u primjeni umjetne inteligencije u poslovnom okruženju, posebno u situacijama kada AI halucinira podatke.

Učenički radovi u prilogu: