Kilkanaście amerykańskich stanów dopuściło już autonomiczne samochody do poruszania się po drogach publicznych. Na razie pod warunkiem, że w środku będzie człowiek gotowy w każdej chwili przejąć kierownicę. Producenci samosterujących się pojazdów i ich wyposażenia liczą jednak na dalej idące rozwiązania. Nowe przepisy są oczekiwane nie tylko dlatego, że zapewnią użytkownikom korzystanie z udogodnień. Ważne są także z powodu perspektyw biznesowych, które otworzą się po zlikwidowaniu barier prawnych. Dlatego rząd USA zamierza wprowadzić nowelizacje pozwalające na używanie inteligentnych pojazdów na teranie całego kraju.

Sposób uregulowania ruchu pojazdów autonomicznych będzie miał ogromne znaczenie nie tylko dla branży motoryzacyjnej, lecz także dla wielu innych dziedzin gospodarki, również dla ICT. Samonaprowadzające się auta będą bowiem potrzebowały rozbudowanej infrastruktury techniczno-organizacyjnej, bazującej na rozwiązaniach teleinformatycznych: od systemów komunikacji i wymiany danych przez narzędzia do analizy informacji i automatycznego sterowania po systemy bezpieczeństwa i ochrony prywatności.

W ubiegłorocznej rezolucji Parlamentu Europejskiego w zaleceniach dla Komisji Europejskiej w sprawie przepisów prawa cywilnego dotyczących robotyki zwrócono uwagę na konieczność poniesienia dużych wydatków na infrastrukturę – drogową, energetyczną i komunikacyjno-informacyjną – niezbędną dla sprawnego i bezpiecznego korzystania z pojazdów autonomicznych. Podjęcie takich działań oznacza w perspektywie również nowe możliwości biznesowe dla integratorów.

Rozumieją to także coraz liczniejsi przedstawiciele władz samorządowych i branży IT w naszym kraju. Przestrzeń miejską do testowania pojazdów autonomicznych chce udostępnić Jaworzno. Władze miasta podpisały w ubiegłym roku list intencyjny o współpracy z Instytutem Transportu Samochodowego i Comtegrą. Uruchomiony ma być projekt utworzenia specjalnej strefy prawnej, który pozwoli na realizację prac związanych z wprowadzeniem do ruchu miejskiego autonomicznych pojazdów.

W kilku dużych polskich miastach rozpoczęto dyskusję nad otwarciem przestrzeni miejskiej na systemy bezzałogowe w postaci dronów. Tego również nie da się zrobić bez udziału firm IT. Potrzebna jest chociażby integracja miejskich systemów informacji przestrzennej z systemami zarządzania lotami. Są już firmy, które interesują się tym zagadnieniem.

 

Robot jak spółka

To, w którą stronę mogą pójść regulacje dotyczące wykorzystania systemów autonomicznych w przestrzeni publicznej, pokazują dyskusje dotyczące sztucznej inteligencji. Stanowi ona obecnie integralny element wyposażenia wszelkiego rodzaju robotów, którymi w gruncie rzeczy są zarówno samochody autonomiczne, jak i drony.

Istnieją różne wizje rozwoju sztucznej inteligencji, łącznie z najbardziej katastroficznymi, w których roboty mają przejąć władzę nad światem. Głównie z obawy przed ziszczeniem się takich przewidywań podejmowane są próby uregulowania działań z zakresu sztucznej inteligencji.

– Są one jednak nieskuteczne, bo regulatorzy podchodzą do tematu konserwatywnie, a w tym przypadku potrzebna jest rewolucja prawna – ocenia Krzysztof  Wojdyło, adwokat i wspólnik w Kancelarii Wardyński i Wspólnicy.

 

Specjalnie dla dronów

Przykładem kompleksowego podejścia do uregulowania kwestii wykorzystania nowych technologii w przestrzeni publicznej jest koncepcja U-Space (Urban Space) przedstawiona przez Komisję Europejską. U-Space to „przyziemna przestrzeń powietrzna do wysokości 150 m”. Miałby w niej obowiązywać specjalny system zarządzania ruchem dronów, podobny do systemu kontroli ruchu lotniczego. Komisja proponuje, aby zastosować zestaw procedur i usług pozwalających na bezpieczne korzystanie z dronów. W pierwszym rzędzie musi on zapewniać bezpieczeństwo ludzi na ziemi. Do zarządzania ruchem dronów w U-Space mają służyć systemy: elektronicznej rejestracji dronów (obowiązkowi rejestracji mają podlegać drony o masie powyżej 250 g), elektronicznej identyfikacji dronów, a także geofencingu (ograniczającego elektronicznie ruch dronów w określonych miejscach, np. w pobliżu lotnisk). W planach są także systemy do prowadzenia drona określoną trasą, w celu unikania kolizji.

 

Jego zdaniem, żeby znaleźć skuteczne rozwiązanie, trzeba nadać sztucznej inteligencji podmiotowość prawną. Taki pomysł już dzisiaj poważnie rozważają środowiska prawników i informatyków.

W gruncie rzeczy nie jest to aż tak rewolucyjne rozwiązanie, jak by się na pierwszy rzut oka wydawało. Podobny przypadek już miał miejsce w historii, kiedy to nadano osobowość prawną spółkom, które są bytami abstrakcyjnymi. To posunięcie ułatwiło obrót gospodarczy, bo nie trzeba się już dogadywać z wieloma wspólnikami. Wystarczy podpisać umowę ze spółką, która jest podmiotem prawa, ale nie tworem rzeczywistym. W podobny sposób można nadać podmiotowość prawną sztucznej inteligencji, która staje się coraz bardziej autonomiczna.

– Gdy przestanie być narzędziem w rękach człowieka, gdy jej autonomia stanie się na tyle duża, że nie uda się znaleźć powiązania ze znanym podmiotem prawa, czyli człowiekiem, trzeba będzie nadać podmiotowość nowemu, wirtualnemu bytowi – przekonuje Krzysztof Wojdyło.

To pozwoliłoby chociażby przeciąć dyskusję o odpowiedzialności za działania autonomicznych pojazdów czy dronów. Systemy sztucznej inteligencji będą mogły mieć różnych właścicieli, ale transakcje i operacje będą przeprowadzane między systemami. Tak samo spółki mają różnych akcjonariuszy, ale transakcje są realizowane między spółkami.

Już dzisiaj w wielu miejscach systemy inteligentne działają autonomicznie, bez udziału człowieka. Tak się dzieje w przypadku wymiany danych w systemach Internetu rzeczy, kiedy mamy do czynienia z komunikacją machine to machine. Tak się będzie działo w coraz większym zakresie w systemach typu Industry 4.0, gdzie wymiana danych i programowanie dalszego przebiegu procesu produkcyjnego powinno się odbywać na każdym etapie produkcji. Kolejnym przykładem jest środowisko blockchainowe. Boty, chociaż działają w postaci niematerialnej, same wymieniają aktywa na giełdzie, tym samym kreując konkretną, realną wartość.

W obawie przed nowym monopolem

Czy działający dzisiaj na rynku integratorzy powinni się w ogóle przejmować dyskusjami o przyszłości sztucznej inteligencji? W jakim zakresie przyjęte ostatecznie rozwiązania prawne wpłyną na ich biznes? Wbrew pozorom, w bardzo znaczącym. Przepisy mogą bowiem zadecydować o układzie sił na rynku i warunkach konkurencji.

Sposób wykorzystania algorytmów zyska wielki wpływ na funkcjonowanie autonomicznego transportu. Tu podstawową wartość będą miały dane. Ich przetwarzanie będzie decydowało o bezpieczeństwie jazdy. Samochód jako obiekt fizyczny przestanie mieć znaczenie. Ważne się stanie, do jakich danych pojazd będzie miał dostęp i z jakich algorytmów ich przetwarzania będzie korzystał. Im więcej danych i skuteczniejsze mechanizmy ich przetwarzania, tym system bezpieczniejszy.

– W takich warunkach może grozić nam powstanie nowego monopolu i to o zasięgu światowym. Jeśli bowiem jakiś algorytm okaże się lepszy od innych, wszyscy będą chcieli z niego korzystać, bo będzie gwarantował większe bezpieczeństwo. Bardzo szybko zdominuje inne rozwiązania – ostrzega Krzysztof Wojdyło.

Podobna sytuacja może mieć miejsce w Industry 4.0. Podpięcie maszyn pod jedną bazę danych, dysponującą najlepszymi zasobami, może grozić zdominowaniem całej produkcji przez jednego gracza. Alternatywą są algorytmy zdecentralizowane, które będą przetwarzały na bieżąco dane przesyłane z samochodów. Platformą do tworzenia takich rozwiązań może być blockchain. Przed jego uruchomieniem trzeba by jednak stworzyć odpowiednią infrastrukturę prawną. Uregulowania wymagałaby m.in. kwestia akceptacji wymiany danych z systemem autonomicznym. Póki sprawy nie są rozstrzygnięte, również integratorzy mają szansę, by zabrać głos w dyskusji i zadbać o własne (nie tylko obecne, ale i przyszłe) interesy.

 

 

Krzysztof Wojdyło
adwokat i wspólnik w Kancelarii Wardyński i Wspólnicy

Technologią, której potencjał gospodarczy nie może być w pełni wykorzystany z powodu braku regulacji, jest blockchain. Nie da się go jednak uregulować w tradycyjny sposób. W tym obszarze nie działają mechanizmy znane z wcześniejszych etapów rozwoju IT. Smart kontrakty mają postać autonomiczną. Nie ma podmiotu, któremu można by coś nakazać lub zlecić, więc dotychczasowe formy regulacji nie sprawdzają się.

Z drugiej strony, brak regulacji uniemożliwia rozwój aktywów gospodarczych, które można by uzyskać za sprawą nowego rozwiązania. Blockchain daje infrastrukturę umożliwiającą wymianę gospodarczą ponad granicami. Niejasna sytuacja prawna powoduje jednak, że nie wszyscy przedsiębiorcy chcą z otwierających się możliwości skorzystać. Nie decydują się z obawy, że ktoś w przyszłości uzna, że taka działalność jest nielegalna.

 

Między certyfikatem…

Trudności ze znalezieniem skutecznych, przystających do dzisiejszych realiów sposobów regulowania różnych obszarów życia, zależnych w coraz większym stopniu od nowych technologii, widać chociażby w unijnym rozporządzeniu o ochronie danych osobowych (RODO). Zawiera ono w zasadzie generalne, fundamentalne wytyczne, zakreśla ogólne ramy i odwołuje się do ustaleń na wysokim poziomie. Ustawodawca dostrzegł bowiem niebezpieczeństwo szybkiego dezaktualizowania się szczegółowych regulacji w wyniku błyskawicznego rozwoju technologii.

Podobny charakter mają inne regulacje dziedzinowe, np. dyrektywa NIS z zakresu cyberbezpieczeństwa czy unijne rozporządzenie eIDAS w sprawie usług zaufania w odniesieniu do transakcji elektronicznych. W takim samym kierunku idą założenia projektu ustawy o krajowym systemie cyberbezpieczeństwa, nad którym pracuje Ministerstwo Cyfryzacji. Problem w tym, że przywykliśmy do regulacji szczegółowych. Jako osoby prywatne, jako menedżerowie i przedsiębiorcy oczekujemy konkretnych wskazań i wymogów. Chcemy regulacji zero-jedynkowych, bo do takich przyzwyczaił nas istniejący system prawny. Tyle tylko, że w czasach szybkiego rozwoju nowych technologii i funkcjonowania coraz bardziej złożonych systemów organizacyjno-technologicznych opracowanie takich przepisów staje się niewykonalne.

Co w tej sytuacji można zrobić, żeby wesprzeć firmy we wprowadzaniu nowych regulacji? Jednym ze sposobów, które planuje się zastosować w przypadku RODO, jest posiłkowanie się różnego rodzaju wytycznymi, rekomendacjami, certyfikacjami i kodeksami dobrych praktyk. Mają się one pojawić w Polsce po wejściu w życie ustawy o ochronie danych osobowych, która wprowadzi RODO do krajowego systemu prawno-instytucjonalnego. Nie będą jednak miały charakteru obligatoryjnego – stosowanie się do nich będzie dobrowolne.

Pomysły Unii Europejskiej dotyczące pomocy w wyborze narzędzi i rozwiązań z zakresu cyberbezpieczeństwa generalnie idą w stronę certyfikacji. Certyfikowanie wyrobów i usług z tej dziedziny ma ułatwić orientację w warunkach wykorzystania nowych technologii.

 

>>> Trzy  pytania do…

Krzysztofa Silickiego, podsekretarza stanu w Ministerstwie Cyfryzacji

CRN W projektowanej ustawie o krajowym systemie cyberbezpieczeństwa nie ma dokładnie sprecyzowanych wymogów. Co będzie podstawą działania podmiotów, które obejmie regulacja?

Krzysztof Silicki Największe znaczenie będzie miała analiza ryzyka, którą będzie musiał przeprowadzić podmiot podlegający ustawie. Na podstawie wyników analizy będzie dokonywał wyboru konkretnych środków i sposobów zapewnienia cyberbezpieczeństwa. W ustawie zostanie zawarty tylko katalog obowiązków podstawowych, np. zgłaszania incydentów. Pomocne będą także akty wykonawcze do ustawy, w których zostaną zdefiniowane bardziej szczegółowo kryteria i progi wyzwalające określone działania. Nie sposób jednak wszystkiego przewidzieć. Natura technologii się zmienia, podobnie jak działania cyberprzestępców. Trzeba więc stale śledzić rozwój wydarzeń i dobierać rozwiązania adekwatne do wyzwań.

 

CRN Kto będzie podlegał ustawie?

Krzysztof Silicki Ustawa obejmie operatorów usług kluczowych i dostawców usług cyfrowych. Usługi kluczowe to te o szczególnym znaczeniu dla stabilności państwa i społeczeństwa, związane np. z dostawami wody, gazu, prądu, opieką medyczną, finansami, zależne od systemów IT. Powstanie wykaz usług kluczowych w poszczególnych sektorach i podsektorach. Na tej podstawie właściwe ministerstwa zidentyfikują operatorów tych usług. Przepisom ustawy będą podlegać także operatorzy usług cyfrowych, do których zaliczone zostały elektroniczne platformy zakupowe, usługi chmurowe i wyszukiwarki. Z definicji jednak wyłączone będą podmioty należące do sektora mikro- i małych przedsiębiorstw.

 

CRN Na czym będzie się opierał krajowy system cyberbezpieczeństwa?

Krzysztof Silicki Podstawowe znaczenie mają mechanizmy współpracy i wymiany informacji. Będą funkcjonowały trzy CSIRT-y na poziomie krajowym – w MON, ABW i w NASK. Każdy operator usługi kluczowej będzie wiedział, do którego CSIRT-u ma zgłaszać incydenty. Jest też przewidziane powołanie zespołu ds. incydentów krytycznych. Do niego będą trafiać informacje o incydentach uznanych przez CSIRT-y za najpoważniejsze, skutkujące znacznym naruszeniem bezpieczeństwa państwa lub porządku publicznego. Będzie także możliwość tworzenia CERT-ów sektorowych. Na podmioty podlegające ustawie zostanie nałożony obowiązek zgłaszania ataków w ciągu 24 godzin. Będą więc musiały zapewnić sobie stały monitoring. Mogą mieć centrum operacyjne u siebie albo korzystać z usług innego podmiotu.

 

– Potrzebujemy gwarancji, że wybrane usługi lub sprzęt są bezpieczne w określonych zastosowaniach, czyli że ktoś przeprowadził stosowne analizy i testy, w wyniku których zyskał przekonanie o bezpieczeństwie używania danego rozwiązania. To nie znaczy, że jest bezpieczne w stu procentach, ale takie ma być na określonym, zdefiniowanym poziomie – tłumaczy Krzysztof Silicki, podsekretarz stanu w Ministerstwie Cyfryzacji.

Jakie dokładnie mechanizmy certyfikacji będą obowiązywać, na razie jeszcze nie wiadomo. Pewne jest natomiast, że wydawane certyfikaty będą uznawane we wszystkich krajach członkowskich.

– Proces oceny będzie bardziej elastyczny niż w przypadku tradycyjnego, „sztywnego” certyfikowania. Ma szerzej uwzględniać pojawiające się technologie, które będą zyskiwać na znaczeniu – mówi Krzysztof Silicki.

Zaznacza, że w procesie certyfikacji chciałaby uczestniczyć również Polska, co będzie miało duże znaczenie dla rozwoju branży IT w naszym kraju. Chociaż uzyskanie certyfikatu nie będzie obligatoryjne, jego posiadanie podniesie zapewne rynkową wartość produktu lub usługi.

…a algorytmem

Innym rozwiązaniem, nad którym prowadzone są prace w różnych krajach na świecie (m.in. w USA i Japonii), jest zaprzęgnięcie sztucznej inteligencji do interpretacji i egzekucji prawa. Przykładem tego może być propozycja prawników z Kalifornii, by uelastycznić regulacje kodeksu drogowego. Każdy kierowca miałby przestrzegać przepisów dostosowanych do sytuacji, w jakiej się znajduje. Przejazd nocą przez puste miasto mógłby się odbywać z większą prędkością – system sztucznej inteligencji czuwałby nad doborem prędkości do panujących warunków, umiejętności kierowcy itp. Uwzględniłby różnorodne okoliczności i czynniki, dobierał na bieżąco dozwoloną prędkość. W ustaleniu optymalnych wskazań mogłaby też pomagać inteligentna infrastruktura monitorująca stale ruch pieszych i pojazdów na drodze. Zbudowanie takiej infrastruktury to również szansa na nowy biznes dla branży IT.

– Tego rodzaju inteligentny system można by też wykorzystać do wspierania wdrożeń rozwiązań zgodnych z RODO. Mógłby stanowić dla każdego podmiotu właściwe dla niego reguły działania – uważa mecenas Krzysztof Wojdyło.

Takie pomysły pojawiają się w dyskusjach o kierunkach regulacji prawnych wymuszanych rozwojem nowych technologii. Systemowe podejście do nowego sposobu funkcjonowania prawa polegałoby na tym, że tworzone byłyby algorytmy, które państwo mogłoby weryfikować i certyfikować. Zamiast powiększać kontrolny aparat urzędniczy państwo zatrudniłoby deweloperów, którzy stworzyliby system automatycznego wspomagania implementacji wymogów RODO czy innych nie zero-jedynkowych regulacji.

Które rozwiązanie okaże się bardziej przydatne? Trudno na razie wyrokować. Być może będą funkcjonowały równolegle. Z pewnością jednak warto śledzić kierunki proponowanych zmian sposobów regulowania zastosowań nowych technologii, gdyż mogą już niedługo wyraźnie wpłynąć na warunki prowadzenia biznesu w branży IT. To, co dzisiaj jeszcze wydaje się odległą, futurystyczną przyszłością, wkrótce może okazać się rzeczywistością dnia codziennego. Lepiej być na nią przygotowanym, niż stanąć przed faktem dokonanym bez przydatnych umiejętności i odpowiednio dobranej oferty usług.