Russiske videnskabsmænd tvivler på, at man ubetinget kan stole på kunstig intelligens

Et meget vigtigt emne relateret til kunstig intelligens-teknologier blev diskuteret på det sidste præsidium for det russiske videnskabsakademi. Så under diskussionen forsøgte videnskabsmænd at forstå, hvor meget du kan stole på kunstig intelligens (AI), og hvor er linjen, hvorefter en person skal træffe en beslutning på egen hånd.

Tro det eller ej kunstig intelligens

Så ifølge præsidenten for det russiske videnskabsakademi A. Sergeeva, AI er en såkaldt "black box", som selv dens skabere ikke helt forstår, hvordan den fungerer. Og derfor opstår et meget logisk spørgsmål: Er det muligt at stole på konklusionerne af AI, hvis vi ikke kan spore kæden af ​​slutninger, som denne "maskine" har gjort?

Faktisk udfører kunstig intelligens allerede et ret stort antal operationer bedre og hurtigere end mennesker.

Og det kan godt være fristende at opgive videnskaben i princippet, fordi en specialist med gennemsnitlig kompetence kan stille bestemte opgaver og læse svar fra AI.

Men kun i tilfælde af fuldstændig og vilkårlig tillid til AI-løsninger, kan du få et stærkt forvrænget billede, hvilket kan være ret dyrt.

Sagen er, at en person er for tilbøjelig til at stole på teknologi, men med kunstig intelligens er alt meget mere kompliceret. Sagen er, at menneskeheden stadig ikke fuldt ud kan forklare, hvordan den menneskelige hjerne fungerer.

Og på samme måde er der ingen forståelse for, hvordan AI fungerer, som er bygget i analogi med den menneskelige hjerne. Faktisk er neurale netværk baseret på en ret simpel ligning af en neuron.

Men kun i det tilfælde, hvor for eksempel 600 milliarder af sådanne komponenter er involveret i arbejdet på én gang, vil absolut ingen sige med sikkerhed, hvilke forbindelser der dannes i det neurale netværk.

Derudover bemærkede forskerne, at efterhånden som neurale netværk udvikler sig, bliver der fundet flere og flere ulemper. Når alt kommer til alt, i starten lærer AI fra millioner af forskellige eksempler.

Men ofte, selv med en lille afvigelse fra parametrene "lært" under træning, begynder systemet at give forkerte resultater.

Så et ret slående eksempel er et neuralt netværk skabt af IBM, målrettet skabt til medicinske behov. Så det viste sig, at IBM AI stiller diagnoser på niveau med en temmelig gennemsnitlig læge. Det betyder, at selvom AI-teknologier gør det muligt at skabe smarte systemer, er de langt fra perfekte.

Og for at afslutte diskussionen kom forskerne til den konklusion, at i betragtning af den stadigt voksende tendens i udviklingen og brugen af ​​kunstig intelligens, er det simpelthen nødvendigt at skabe en vis analog af GOST, som først vil gøre det muligt fuldt ud at bruge AI, efter at systemet har bestået en lang række kontroller, og forskere er overbevist om, at AI ikke vil udføre fejl.

Skriv i kommentarerne, hvordan du personligt har det med brugen af ​​AI i hverdagen. Hvis du kunne lide materialet, så bedøm det og glem ikke at abonnere på kanalen. Tak for din opmærksomhed!