1
00:00:00,000 --> 00:00:04,600
Le automobili autonome stanno diventando sempre più realtà in verità,

2
00:00:04,600 --> 00:00:09,640
bastandare in qualche stato degli Stati Uniti o in China o in altri Paesi,

3
00:00:09,640 --> 00:00:14,800
per poter provare le brezza di salire su una automobile senza alcun pilota

4
00:00:14,800 --> 00:00:17,000
che vi porta a destinazione.

5
00:00:17,000 --> 00:00:20,840
In questa puntata di Breakfast Club parleremo delle moral machine

6
00:00:20,840 --> 00:00:28,200
delle MIT dove in classe possiamo sperimentare delle scelte di questa automobili autonome,

7
00:00:28,200 --> 00:00:31,200
nel caso qualcosa andasse stordo.

8
00:00:31,200 --> 00:00:36,200
Io sono i manoi le miccheli, lavoro per scola di robotica da più di 20 anni

9
00:00:36,200 --> 00:00:43,200
e questo è Breakfast Club, un podcast per chi insegna in forma educa.

10
00:00:43,200 --> 00:00:49,200
Per chi ogni mattina entra in una aula sapendo chi ragazzi che ad avanti stanno già vivendo in un mondo

11
00:00:49,200 --> 00:00:53,200
che al resto degli adulti stanno ancora cercando di capire.

12
00:00:53,200 --> 00:01:01,200
Voi siete le uniche persone che ogni giorno devono rispondere una domanda che nessun altro osa ancora far sì.

13
00:01:01,200 --> 00:01:06,200
Come si prepara qualcuno per un futuro che non sappiamo descrivere?

14
00:01:06,200 --> 00:01:13,200
Ogni settimana partiamo da un film, un libro, una canzone e arriviamo dentro la scuola

15
00:01:13,200 --> 00:01:16,200
perché la tecnologia non è mai solo tecnica,

16
00:01:16,200 --> 00:01:20,200
è sempre prima di tutto una storia umana.

17
00:01:20,200 --> 00:01:25,200
Repare il caffè, metitina scolto, benvenuto al Breakfast Club.

18
00:01:25,200 --> 00:01:38,200
Usato il sito moral machine delle meti di Boston per pare chi anni e per decine decine di lezioni.

19
00:01:38,200 --> 00:01:43,200
In questa sito in questa piattaforma online potete fare un test.

20
00:01:43,200 --> 00:01:48,200
Dovrete scegliere indicare a un automobili autonome che va in crisi

21
00:01:48,200 --> 00:01:55,200
quale sia la decisione migliore da prendere in una situazione che ricorda al cosiddetto trolli.

22
00:01:55,200 --> 00:02:00,200
Praticamente la macchina ha una destinazione da raggiungere con una direzione

23
00:02:00,200 --> 00:02:06,200
e di fronte alla strada che ha deciso di intraprendere accade un imprevisto.

24
00:02:06,200 --> 00:02:11,200
Per esempio un pedone o più pedoni che iniziano ad attraversale.

25
00:02:11,200 --> 00:02:18,200
La automobili autonome è di fronte a un dilema. Quello è di continuare

26
00:02:18,200 --> 00:02:23,200
per che ha quella direzione per impostata a deciso di andare proprio in quel punto ma capisce

27
00:02:23,200 --> 00:02:26,200
che frenando non potrà salvare nessuno.

28
00:02:26,200 --> 00:02:31,200
Oppure cambiare destinazione e uccidere qualcun altro.

29
00:02:31,200 --> 00:02:36,200
In questa piattaforma moral machine sarete di fronte a due scelte

30
00:02:36,200 --> 00:02:44,200
e vedrete che tutti gli imprevisti che sono umani, bambine, bambine, donne in cinte, barboni

31
00:02:44,200 --> 00:02:50,200
e medici sono tutti con dei tag che ne descrivono un po lo status sociale.

32
00:02:50,200 --> 00:02:53,200
Ci sono anche gli animali, i cani e i gatti.

33
00:02:53,200 --> 00:02:56,200
Questo esperimento va avanti da decenni.

34
00:02:56,200 --> 00:03:03,200
Lo usavo all'ettione credo 12-13-14 anni fa e raccolto tantissimi dati.

35
00:03:03,200 --> 00:03:07,200
Non avrai mai sospettato che questi dati fossero in qualche modo utili.

36
00:03:07,200 --> 00:03:14,200
Ma pensate oggi le metti a un database di miliai e miliai di decisioni di utenti come me.

37
00:03:14,200 --> 00:03:19,200
E ovviamente abbiamo impostato la nazione da cui abbiamo votato in nostro background.

38
00:03:19,200 --> 00:03:24,200
E a un database quindi che ci fa capire che anche in base all'ettronia,

39
00:03:24,200 --> 00:03:28,200
alle origini culturali e le decisioni possono essere diverse.

40
00:03:28,200 --> 00:03:35,200
Ma tutto questo prevede classificare, categorizzare gli esseri umani significa a quindi mettere delle etiquette.

41
00:03:35,200 --> 00:03:38,200
Quell'esperimento li poi ho smesso di farlo proprio per questo.

42
00:03:38,200 --> 00:03:44,200
Oppure lo faccio vedere per capire come alcune culture, come quella degli Stati Uniti.

43
00:03:44,200 --> 00:03:49,200
Prevedano un valore della vita umana che è il valore assicurativo,

44
00:03:49,200 --> 00:03:52,200
è il valore della vita che abbiamo di fronte.

45
00:03:52,200 --> 00:03:59,200
E su questo magari un giorno delle macchine autonome dei robot potranno prendere delle scelte in quella società.

46
00:03:59,200 --> 00:04:06,200
Tutto questo ovviamente è a pericolo dei pregiudizi, di bias che dati che allenano queste macchine

47
00:04:06,200 --> 00:04:10,200
possono in qualche modo inserire all'interno delle loro decisione.

48
00:04:10,200 --> 00:04:17,200
Infondo ricordo tanti anni fa ma anche oggi quando magari mi ritrovo in una riunione con tante persone

49
00:04:17,200 --> 00:04:23,200
magari a maggioranza maschile, beh mi è capitato. Pull troppo non posso dire ogni tanto,

50
00:04:23,200 --> 00:04:31,200
ma più di ogni tanto di vedere che il parere dei maschi fosse più ascoltato dai maschi stessi.

51
00:04:31,200 --> 00:04:35,200
E questa è una berrazione della nostra società.

52
00:04:35,200 --> 00:04:44,200
Immaginate un robot humanoide che ci osserva e che impara che il parere del maschio è più ascoltato del parere della donna.

53
00:04:44,200 --> 00:04:54,200
È una società orribile che rischiamo di costruire perché queste macchine avranno l'effetto di amplificare anche i nostri difetti.

54
00:04:54,200 --> 00:05:00,200
Di fetti che negli anni 50 per esempio erano dichiarati dal cosiddetto Green Book.

55
00:05:00,200 --> 00:05:04,200
Non era un libro verde e era il suo autore che si chiamava Green.

56
00:05:04,200 --> 00:05:12,200
Questo libro era un manuale, un catalogo di ristoranti negli Stati Uniti che accettavano le persone di colore

57
00:05:12,200 --> 00:05:20,200
e non solo ristorante ma anche alberghi dove un nero un Afroamericano poteva dormire senza rischiare.

58
00:05:20,200 --> 00:05:29,200
Questa storia era contata molto bene dal film Green Book del 2018 di cui vi proponiamo il trailer.

59
00:05:29,200 --> 00:05:36,200
Se hai chiamato qui un tizio sta cercando una autista, ti interessa?

60
00:05:36,200 --> 00:05:39,200
Prevede qualche problema lavorare per un uomo di colore.

61
00:05:39,200 --> 00:05:42,200
E ne ho profondo su? Prevedo casi.

62
00:05:42,200 --> 00:05:45,200
Dicemelo che hai fatto le ducate con quei collioni.

63
00:05:45,200 --> 00:05:48,200
Perché per cambiare i cuori delle persone ci vuole coraggio.

64
00:05:48,200 --> 00:05:54,200
Tu nemmeno li conosci quelli come te! Tu il pezzo grosso che feco certi per i piacchi stranichi!

65
00:05:54,200 --> 00:05:57,200
Se per te lo sono abbastanza nero e per loro non sono abbastanza bianco!

66
00:05:57,200 --> 00:05:59,200
Allora di mi chiediamolo solo io!

67
00:05:59,200 --> 00:06:03,200
Sono capaci tutti ai mitare be dove?

68
00:06:03,200 --> 00:06:06,200
A quello che fei tu con la musica?

69
00:06:06,200 --> 00:06:08,200
Ti rende unico?

70
00:06:08,200 --> 00:06:11,200
Ti rende unico?

71
00:06:11,200 --> 00:06:21,200
Don Sirlay è un grande musicista e suone in una sala dove tutti i bianchi sono estasiati dalle sue capacità.

72
00:06:21,200 --> 00:06:24,200
E pure non può usare il bagno.

73
00:06:24,200 --> 00:06:28,200
Green Book ci sembra ovviamente una berrazione della nostra società.

74
00:06:28,200 --> 00:06:34,200
Pensiamo di averlo corretto in alcuni casi e in alcune società è vero.

75
00:06:34,200 --> 00:06:37,200
C'è l'abbiamo fatta a superare quei pregiutizi.

76
00:06:37,200 --> 00:06:43,200
Ma tensione, oggi per descrivere i posti sicuri dove andare a mangiare.

77
00:06:43,200 --> 00:06:48,200
Per trovare il ristorante dove vogliamo andare a mangiare cosa facciamo?

78
00:06:48,200 --> 00:06:50,200
Lo chiediamo all'intelligenza artificiale.

79
00:06:50,200 --> 00:07:04,200
Quante e quanti di voi interrogano le agenerative per decidere dove andare a mangiare o quale luogo andare a visitare in una magari famosa città in cui vi state dirigendo in qualità di turisti.

80
00:07:04,200 --> 00:07:13,200
La risposta ai me è che tanti di noi lo fanno e la risposta che ci arriva non è una risposta mediata da critici.

81
00:07:13,200 --> 00:07:25,200
Per esempio quando prendiamo la guida Michelin ci sono dei critici che hanno assaggiato, hanno provato o hanno classificato e ci guidano nella scelta del ristorante.

82
00:07:25,200 --> 00:07:39,200
Nel caso delle agenerative invece abbiamo una valanga di dati che non conosciamo che provengono dai social netto, dai city internet e questi ci stanno guidando verso un posto sicuro dove mangiare.

83
00:07:39,200 --> 00:07:54,200
Allora la raccolta dei dati diventa il vero strumento di propaganda, il vero strumento che ci può indirizzare nelle nostre opinioni, nelle nostre scelte passando come un servizio fantastico eficiente e veloce.

84
00:07:54,200 --> 00:08:08,200
Nel 2022, Wund fece un esperimento di effetto, preso un robot, un braccio e mise dei cubetti con delle fotografie di persone.

85
00:08:08,200 --> 00:08:22,200
Allennò i robot a riconoscere le persone e cerco di mediante dei database di carcerati di allenare questo robot per trovare il criminale in base al rispetto estetico.

86
00:08:22,200 --> 00:08:39,200
Sappiamo già che sbagliato, ne abbiamo parlato nella prima stagione, il famoso datà set 32 che è stato usato dal National Institute for Standard and Technology dei stati uniti, dove erano schedati tutti i criminali di pluri o macidi.

87
00:08:39,200 --> 00:09:00,200
Bene, immaginate avere un datà fette pieno di criminali che per caso, e non perché sia così, sono maggiormente di colore perché in quella società di quel periodo bene quelle persone avevano meno protezione e quindi anche gli innocenti che venivano catturati in maniera in giusta erano maggiormente di colore.

88
00:09:00,200 --> 00:09:07,200
Bene, con questo datà base, il robot sceglieva sempre il criminal come la persona di colore.

89
00:09:07,200 --> 00:09:17,200
Qualche giorno fa, a Berlino, Jensen Wang, il creatore di Nvidia, ha presentato e Gile One SN.

90
00:09:17,200 --> 00:09:35,200
Il datà set forniti da Nvidia per essere messi dentro a un corpo, avete capito, il corpo è un robot humanoide, invidia sta fornendo chip, sistemi, strutture e datà set e modelli per la robotica humanoide.

91
00:09:35,200 --> 00:09:55,200
E ci sta dicendo che ci sta fornendo per più piattaforme, ci sta dando modelli per far camminare i nostri robot per farli stare in equilibrio, per farli riconoscere gli oggetti, ma i dati con cui invidia ha allenato con gli oggetti ad oggi ci sono sconosciuti.

92
00:09:55,200 --> 00:10:10,200
E quindi non possiamo sapere se da qualche parte, annidato nel datà set, ci sia un pregiutizio che un giorno farà sbagliare robot humanoide, lo farà discriminare gli farà discriminare rispetto a persone di cultura diverse.

93
00:10:10,200 --> 00:10:22,200
In pratica, il baghia, se il pregiutizio ha anche nella cosiddetta fisica le ai, e non viene programmato e non viene scritto esplicitamente.

94
00:10:22,200 --> 00:10:29,200
Ma nasce dalla natura stessa dei dati che abbiamo utilizzato per allenare i modelli.

95
00:10:29,200 --> 00:10:41,200
E allora emerge come comportamento. Questo è uno dei pericoli e, contro qui, dobbiamo lottare. Dobbiamo riuscire a far capire che macchine che si muoveranno nella nostra società.

96
00:10:41,200 --> 00:10:59,200
Dovranno essere allenati con datà set pubblici? Open, dovremo sapere perché è uscito quel comportamento. Dovremo in qualche modo, quando ci sarà qualche incidente perché di incidenti come nelle automobili autonome ce ne saranno meno, magari di quelle create dagli guidatori umani.

97
00:10:59,200 --> 00:11:19,200
Ma comunque dovremo capire cosa sta succedendo per difenderci eventualmente da chi usando datà set pieni di spazzatura. O datà set orientati artigionalmente artificialmente potranno orientare delle decisioni di macchine, gli automobili autonome, di robot humanoidi che vivranno a stretto contatto con noi.

98
00:11:19,200 --> 00:11:34,200
Ci porteranno a bordo, ci porteranno a destinazione oppure interagiranno con noi, stireranno a nostro posto, mettereanno a posto a nostra casa. Inso, ma siamo pronti per arrivare a quel mondo lì. Ci siamo molto vicini.

99
00:11:34,200 --> 00:11:46,200
Ma tutto questo fa sì che abbiamo davanti una grande sfida. Capire che i dati sono in questo momento il bene più prezioso, anche per la robotica, anche per l'automobile autonome, anche per il robot humanoidi.

100
00:11:46,200 --> 00:11:59,200
Allora, se nella rincorsa li ha generativa, abbiamo assistito al più grande furto della storia di dati con cui sono stati allenati modelli e quei dati non c'è dato sapere e conoscere bene.

101
00:11:59,200 --> 00:12:09,200
Siamo ancora in tempo per cercare e dire "No, non vogliamo manoi di allenati, condati sconosciuti, condati rubati, condati pieni di bagias di pregiutizi.

102
00:12:09,200 --> 00:12:19,200
Vogliamo essere artifici della robotica del futuro e del loro comportamenti. Siamo quasi alla fine della puntate e vi lascio con un esercizio.

103
00:12:19,200 --> 00:12:30,200
Provate a chiedere questo un esercizio a fare soprattutto alle superioni, alle ragazze e ragazze, di scegliere un luogo dove si sentono sicuri, dove si sentono se stessi, dove stanno bene.

104
00:12:30,200 --> 00:12:45,200
E poi fate fare la stessa cosa all'intelligenza artificiale. Create due mappe e andate a vedere se ci sono dei bagias nelle nostre intelligence artificiali per definire dei luoghi sicuri.

105
00:12:45,200 --> 00:12:49,200
Siamo arrivati alla fine, buona lezione a tutti e a tutti.

106
00:12:49,200 --> 00:12:59,200
Brestal's Club è prodotto da scuola di robotica. Scritto è narrato da me e malori micieri. Tecnico del suono e al montaggio, Luca Merano.

107
00:12:59,200 --> 00:13:06,200
Trovate tutti i link dove ascoltarci, come seguirci, come scriverci nella descrizione di questo episodio.

108
00:13:06,200 --> 00:13:17,200
Se questa puntata vi ha fatto venire voglia di fare una domanda in più in classe semplicemente di pensarci su, lasciate una recensione sulla vostra piattaforma preferita.

109
00:13:17,200 --> 00:13:24,200
A noi aiuterà a crescere e a capire come produrre le prossime puntate.

110
00:13:24,200 --> 00:13:26,200
La prossima.