Scienziati russi dubitano che l'intelligenza artificiale possa essere incondizionatamente affidabile

Un tema molto importante relativo alle tecnologie di intelligenza artificiale è stato discusso nell'ultimo Presidium dell'Accademia Russa delle Scienze. Quindi, durante la discussione, gli scienziati hanno cercato di capire quanto ci si può fidare dell'intelligenza artificiale (AI) e dov'è la linea dopo la quale una persona deve prendere una decisione da sola.

Che tu ci creda o no Intelligenza Artificiale

Quindi, secondo il presidente dell'Accademia delle scienze russa A. Sergeeva, l'intelligenza artificiale è una cosiddetta "scatola nera" che nemmeno i suoi stessi creatori comprendono appieno come funziona. E quindi sorge una domanda molto logica: è possibile fidarsi delle conclusioni dell'IA se non possiamo tracciare la catena di inferenze fatte da questa "macchina"?

In effetti, infatti, l'intelligenza artificiale sta già svolgendo un numero abbastanza elevato di operazioni meglio e più velocemente degli umani.

E potrebbe essere allettante abbandonare la scienza in linea di principio, perché uno specialista di media competenza può impostare determinati compiti e leggere le risposte dall'IA.

Ma solo nel caso di una fiducia completa e indiscriminata nelle soluzioni di intelligenza artificiale, è possibile ottenere un'immagine altamente distorta, che può essere piuttosto costosa.

Il fatto è che una persona è troppo incline a fidarsi della tecnologia, ma con l'intelligenza artificiale tutto è molto più complicato. Il fatto è che l'umanità non riesce ancora a spiegare completamente come funziona il cervello umano.

E allo stesso modo, non si capisce come funziona l'intelligenza artificiale, che è costruita per analogia con il cervello umano. In effetti, le reti neurali si basano su un'equazione abbastanza semplice di un neurone.

Ma solo nel caso in cui, ad esempio, 600 miliardi di tali componenti siano coinvolti contemporaneamente nel lavoro, assolutamente nessuno dirà con certezza quali connessioni si formano nella rete neurale.

Inoltre, gli scienziati hanno notato che man mano che le reti neurali si sviluppano, si riscontrano sempre più svantaggi. Dopotutto, all'inizio, l'IA impara da milioni di esempi diversi.

Ma spesso, anche con una leggera deviazione dai parametri "appresi" durante l'allenamento, il sistema inizia a dare risultati errati.

Quindi un esempio piuttosto eclatante è una rete neurale creata da IBM, creata appositamente per esigenze mediche. Quindi, si è scoperto che l'IA di IBM effettua diagnosi al livello di un medico abbastanza medio. Ciò significa che anche se le tecnologie AI consentono di creare sistemi intelligenti, sono tutt'altro che perfette.

E concludendo la discussione, gli scienziati sono giunti alla conclusione che, data la tendenza sempre crescente nello sviluppo e nell'uso dell'intelligenza artificiale, è semplicemente necessario creare un certo analogo di GOST, che consentirà di utilizzare completamente l'IA solo dopo che il sistema ha superato un'intera serie di controlli e gli scienziati sono convinti che l'IA non funzionerà errori.

Scrivi nei commenti come ti senti personalmente riguardo all'uso dell'IA nella vita di tutti i giorni. Se ti è piaciuto il materiale, votalo e non dimenticare di iscriverti al canale. Grazie per l'attenzione!