Cyberprzestępcy używają AI w swojej działalności [SecureTech Congress 2018]

19 kwietnia 2018, 10:56
PANEL1
Fot. A.Kozlowski/Cyberdefence24.pl

W środę odbyła się kolejna edycja SecureTech Congres. W pierwszym panelu zatytułowanym Big Data, AI and Security – trendy na rynku i efektywne wykorzystanie w biznesie udział wzięli: dr Mariusz Cholewa – Prezes Zarządu, Biuro Informacji Kredytowej, Dariusz Kacprzyk – Współprzewodniczący Rady Programowej SecureTech Congress, Robert Kroplewski – Pełnomocnik Ministra Cyfryzacji ds. Społeczeństwa Informacyjnego z Ministerstwa Cyfryzacji  i Tomasz Motyl – Przewodniczący Rady Programowej Big Data & AI Congress.

Tomasz Motyl powiedział, że niestety nie udało mu się niczego znaleźć, że narzędzia AI czy Big Data pomagają w cyberbezpieczeństwu. Chciałbym zobaczyć jakieś opracowanie naukowe, które omawia te zagadnienia w sposób kompleksowym - dodał Motyl.

Odmienne zdanie miał doktor Mariusz Cholewa. W jego opinii  narzędzia są i z niektórych z nich już korzystamy. Jednak bardzo ważny jest człowiek i kultura organizacji oraz świadomość, że każdy może zostać zaatakowany. Narzędzia przeciwko wyłudzeniom w niektórych elementach wykorzystują uczenie maszynowe, ale nie są w stanie zastąpić człowieka. Najważniejsze jest jednak wspólne działania. Bez tego nie pomoże nam nawet najlepsza technologia. Wymiana międzysektorowa jest najważniejsza. 

Robert Kroplewski powiedział, że w przyszłości i obecnie potrzebne jest zaufanie, które jest cenniejsze niż dane czy usługi i przede wszystkim zależy od woli człowieka. Przytoczył fake news w świecie kryptowalutowym, który jest tam postrzegany pozytywnie.

Dariusz Kacprzyk przedstawił  ewolucję zabezpieczeń od najprostszych antywirusów opartych na bazie danych wirusów po sandboxy. Jego zdaniem wsparcie technologiczne jest krytyczne. Nie powinniśmy szukać mega wysublimowanych technologii.  Złożoność życia będzie powodować zatrudnienie maszyn do analizy. Analityka stanie się bardzo ważna i pomocna. Zaufanie i świadomość to najważniejsze trendy.

Doktor Mariusz Cholewa dodał, że uczenie maszynowe podpowiada nam występowanie jakieś reguły, albo schematu.  Nie możemy jednak mu 100 % ufać, bo wciąż jest za dużo fałszywych sygnatur. Wskazał również na pasywną biometrię jako przyszłość rozpoznawania tożsamości. Każdy z nas inaczej ruszą myszą.

Dariusz Kacprzyk dodał, że wszystkie wymogi jak np. zmiana haseł traktował początkowo jako pewne utrudnienia w pracy. Dlatego musimy się pogodzić, że bezpieczeństwo wiążę się z pewnymi ograniczeniami w pracy.

Robert Kroplewski z Ministerstwa Cyfryzacji uważa, że sztuczna inteligencja może wspomóc pracę administracji publicznej. Jego zdaniem istnieje możliwość stworzenia cyfrowej tożsamości poprzez analizę zachowania w sieci bez konieczności podawania danych personalnych.

Doktor Mariusz Cholewa powiedział, że RODO to ustawa prokonsumencka.

Tomasz Motyl jest przeciwnikiem tworzenia wielkiej bazy danych. Jego zdaniem jest to zbyt duże ryzyko. W opinii Motyla najlepszy jest model amerykański, gdzie bazy danych są podzielone.

Następnie padły pytania z publiczności. Jedno z nich dotyczyło kiedy  w AI będzie używane przez przestępców do popełniania fraudów?

Tomasz Motyl  uważa, że już są one wykorzystywane  Przestępcy są szybsi niż my.

W opinii Dariusz Kacprzyk sztuczna inteligencja pozwala wyłowić pewne korelacje. Jego zdaniem pojęcie to jest nadużywane.

Robert Kroplewski powiedział, że AI może pomóc budować zaufanie obywateli. Przestępcy nie potrzebują żadnych przepisów prawnych. Naruszają je wszystkie w dążeniu do osiągnięciu własnego celu.

W nawiązaniu do pytania z publiczności ocenił również gotowość polskiej legislacji. Jego zdaniem  najważniejszym wyzwania są ustawy branżowe, których jest około 200.

Kolejne pytanie z publiczności dotyczyło prawdziwego zagrożenia ze strony sztucznej inteligencji  czy tak naprawdę nie widzimy prawdziwego zagrożenia ze strony sztucznej inteligencji?

Dariusz Kacprzyk uważa, że nigdy nie powinno się zezwolić na pełną autonomię i nie pomagają tutaj etyczne zasady, ponieważ nie wszyscy ich przestrzegają.

Tomasz Motyl powiedział, że wszystko zależy w jakim celu użyjemy tego narzędzia. Przytoczył przykład młotka, który można również użyć do wbijania gwoździa, ale również do zrobienia komuś krzywdy.

KomentarzeLiczba komentarzy: 2
nie jestem sobą
poniedziałek, 1 października 2018, 10:47

Ja mógłbym podać inne przykłady zagrożenia, ale odniosę się do komentarza wyżej. Nie rozumiem dokładnie o czym Pan piszę w koncowej fazie wpisu, ale zgadzam się z Pana konkluzją na innych przykładach w tym że brak świadomosci wynikiem europejskich programów nauczania w Polsce jest porażający i polega na zupełnym braku rozsądku i roztropności, a jedynie chęci zaistnienia w innowacjach zupelnie nie zdając sobie sprawy z konsekwencji tych czynów.

TowariszczJacho
piątek, 20 kwietnia 2018, 12:41

Szanowni Państwo nie nazwę tych dywagacji po imieniu ale proszę się poważnie zastanowić jak AI ma chronić przed Cyberzagrożeniami a raczej przed czym ma chronić coś co jest efektem uczenia maszynowego gdzie CZŁOWIEK będzie układał zasady uczenia i je weryfikował - po pierwsze jest to \"post factum\" jak wiele innych propozycji środowiska - które chyba przestało rozumieć rzeczywiste zagrożenia dla Cyberbezpieczeństwa. Szacowne Gremia się zbierają i dyskutują o niszowych problemach zdecydowanie związanych z \"czynnikiem ludzkim\". Są dużo bardzie j istotne kwestie o których Szacowne Gremia chyba nie mają zielonego pojęcia a szkoda ...! Podam, jeden przykład który będzie zrozumiały a dotyczy podatności związanych z komputerem kwantowym, gdzie np. IBM oferuje 50 Qubitowy QK co znaczy, że w \"DOMENIE PUBLICZNEJ\" jest możliwość nabycia urządzenia z wydajnością 4^50 różnorodność/1 cykl - nie wiem czy to jest zrozumiałe dla Szacownego Eksperckiego Grona, czyli 2^2*50 = 2^100 kombinacji wyniku/cykl a obecny poziom bezpieczeństwa zalecany do 2023r przez ENISA i inne w UE to 2^128 iteracji - mam nadzieję, że dalsze komentowanie jest już niepotrzebne dla Szacownego Grona Ekspertów ... poraża mnie brak świadomości ... co jest i w co dziś się gra ... natomiast dyskusja trwa w najlepsze o \"pitu pitu\" ...