Reklama

IBM: należy stworzyć standardy sztucznej inteligencji

22 stycznia 2020, 09:29
IBM_bundynek89
Fot. Mark Ahsmann/Wikipedia Commons/CC 3.0
CyberDefence24
CyberDefence24

IBM wezwał przedstawicieli firm i rządów do utworzenia standardów sztucznej inteligencji (AI), które miałyby złagodzić obawy o stronniczość tej technologii i możliwość odtwarzania uprzedzeń wobec kobiet, mniejszości czy niepełnosprawnych - podała we wtorek agencja Bloomberga.

Propozycja firmy z Armonk wystosowana została w przeddzień prowadzonego przez szefową koncernu Ginni Rometty panelu dot. tematyki AI podczas trwającego Światowego Forum Gospodarczego w Davos.

IBM wezwał przedstawicieli firm tworzących zastosowania AI i przedstawicieli władz państwowych, by wspólnie ustalili zasady bardziej restrykcyjne niż te nałożone przez same koncerny, ale nie zaporowe, jakie mogłyby zostać narzucone przez poszczególne rządy.

Zasady miałyby m.in. zapobiec tworzeniu baz danych w oparciu o informacje historyczne, które mogą być obarczone dawnymi praktykami dyskryminacyjnymi. Jako przykład podano kwestię sprawiedliwego dostępu Afroamerykanów do nieruchomości, gdzie wykorzystujące historyczne dane algorytmy mogą brać pod uwagę kody pocztowe i oprocentowanie kredytów hipotecznych - statystyki, na które mogła wpłynąć systemowa dyskryminacja mniejszości.

Kolejnymi środkami zapobiegawczymi mogą zdaniem spółki być: utworzenie w firmach stanowiska dyrektora ds. etyki w AI (ang. chief AI ethics official) oraz prowadzenie regularnych ocen dot. potencjalnych działań szkodliwych, jakie może wprowadzić system AI.

Koncern zwrócił też uwagę na potrzebę przechowywania informacji dotyczących danych wykorzystanych przy podejmowaniu "decyzji lub rekomendacji mogących mieć znaczne konsekwencje dla jednostki", tak by decyzje te można było wyjaśnić i uzasadnić.

Zdaniem Bloomberga przewodnictwo w debacie nt. regulacji rynku AI ukazuje IBM jako lidera na rynku najnowszych technologii, jednak w ocenie agencji od lat tak nie jest, a oddziały AI i chmury obliczeniowej koncernu nie wykazują jak dotąd znaczącego wzrostu przychodów.

Automatyzujące analizę danych i procesy podejmowania decyzji systemy oparte o AI i uczenie maszynowe nadal budzą znaczne obawy, np. w sytuacjach, gdyby oprogramowanie tego typu miało decydować o aresztowaniu na podstawie informacji z systemu monitoringu i rozpoznawania twarzy albo o kosztach przyznawanego danej osobie kredytu - zwraca uwagę Bloomberg.

Pojawiają się również obawy, że rozwój AI związany jest z masowymi zwolnieniami, a same systemy będą powielać istniejące nierówności m.in. w działaniu organów ścigania, dostępie do kredytów czy polityce zatrudniania w firmach.

Agencja przypomniała, że władze USA od lata 2019 r. współpracują z IBM nad opracowanie jednolitego podejścia do AI. W styczniu USA administracja państwowa opublikowała wytyczne dot. wykorzystania AI w agencjach federalnych, Senat ma zaś pracować nad projektem wspomagającym publiczne i prywatne inwestycje w AI i inne technologie przyszłości.

Unia Europejska pracuje obecnie nad wymogami prawnymi wobec firm tworzących rozwiązania AI, których celem jest etyczne tworzenie i wykorzystywanie sztucznej inteligencji.

PAP - mini

CyberDefence24
CyberDefence24
KomentarzeLiczba komentarzy: 0
No results found.