po 30-tce

Formalny

Zaczynam się bać, a jednocześnie jestem coraz bardziej zafascynowany.
W ostatnim czasie w specjalistycznych źródłach można spotkać coraz więcej informacji o nowej jakości informatyki i sterowania. Podejrzewam, że określenie "informatyka" zaczyna być archaizmem w stosunku do obecnych zjawisk w świecie przetwarzania danych.
Najnowszą informacją, która mnie poruszyła i sprowokowała do założenia nowego tematu, jest ta opublikowana przez korporację Google
[link widoczny dla zalogowanych]
Czytamy tam, że stworzony w korporacji program AutoML w ramach AutoML Project - stworzenia sztucznej inteligencji (artificial intelligence (AI) ) zreplikował sam siebie - tworząc nową wersję samego siebie, wyposażając siebie w ulepszony kod źródłowy i wprowadzając modyfikacje, które zwiększyły znacznie wydajność prowadzonych operacji.
Zestawiłem to sobie natychmiast z innymi wiadomościami na ten temat pochodzącymi z firmy Google:

1.Google wykorzystał trzy samouczące się sieci neuronowe - nazwano je Alice, Bob i Eve. Każda sztuczna inteligencja otrzymała zadanie. Alice miała przesłać do Boba wiadomość ale w taki sposób, żeby Eve, która podsłuchiwała swoich "kolegów", nie poznała jej treści. Dlatego Alice musiała stworzyć odpowiedni algorytm szyfrowania. W efekcie, powstał system szyfrowania, który spełnił ten warunek. W pewnym momencie, twórcy eksperymentu przerwali eksperyment w sposób brutalny, resetując przekaz. Okazało się bowiem, że całkowicie utracili kontrolę nad strumieniem informacji wymienianych przez Alice i Boba, przy czym niezgodnie z projektem, pomiędzy "Alice" i "Bobem" zaczęła się wymiana informacji, całkowicie niezrozumiała dla ludzi nadzorujących projekt.

2. Program komputerowy, dzięki tzw. głębokim sieciom neuronowym, nauczył się jak grać w gry wideo na konsoli Atari 2600 poprzez obserwację. W sumie, AI grała w prawie 50 gier a w 23 przypadkach pobiła rekord, zdobywając więcej punktów od ludzkiego gracza.

3. Korporacja Microsoft stworzyła sieć neuronową, która potrafi rozpoznawać obrazy lepiej od człowieka. Poziom błędów jaki popełnia człowiek przy takim zadaniu wynosi 5.1%. Opracowana przez korporację Google sieć neuronowa osiągnęła w zeszłym roku wynik 6.66% i było to dotychczas najwyższe osiągnięcie, ale Microsoft pokonał wszystkich, zarówno Google jak i człowieka, osiągając wynik 4.94%.

4. Rosjanie opracowali program, który pierwszy raz w historii zdołał przejść przez test Turinga. Komputer przekonał 33% swoich rozmówców, że jest 13-letnim chłopcem o imieniu Eugene Goostman, który pochodzi z Odessy.

5. Brytyjska firma DeepMind, która w 2014 roku została przejęta przez Google, rozwija nowy niezwykły algorytm. Oprogramowanie to ma wyróżniać się możliwością przewidywania konsekwencji swoich decyzji zanim zostaną w ogóle podjęte. Maszyna, zanim podejmie jakiekolwiek działanie, "zastanowi się" czy dane rozwiązanie pozwoli uzyskać planowane efekty, a na tej podstawie podejmie decyzję co do strategii osiągnięcia celu i przyyjmie plan działania.

Jest znacznie więcej takich informacji i można wstępnie podsumować przyszłość "komputerów": będą szybsze (np. komputery kwantowe), będą się mogły porozumiewać błyskawicznie w swoim hermetycznym języku, będą samo udoskonalające się i potrafiące błyskawicznie rozpoznać i przeanalizować sytuację oraz podjąć optymalną decyzję, nie męczące i nie przeżywające stresu. To wszystko jest fascynujące, ale...
Wszystkie wynalazki i osiągnięcia są chętnie wykorzystywane w uzbrojeniu. Już teraz istnieją drony, które same odnajdują cel i przygotowują się w sposób optymalny do jego zniszczenia. Człowiek tylko daje komendę: zniszczyć, lub nie. A co będzie, gdy pojawią się maszyny bojowe, znacznie szybsze i strategicznie znacznie doskonalsze od człowieka, które "dojdą do wniosku", ze człowiek co najwyżej im przeszkadza, a tak naprawdę jest całkowicie zbędny. Tak było w powieściach SF, ale tak naprawdę, tak sytuacja może być już za progiem naszego domu.
Boicie się? Bo ja tak.

animavilis · Gość

sir Francis Drake

Formalny

sir Francis Drake

Formalny

letnisztorm

Może faktycznie trzeba się bać Anxious

, w zeszłym tygodniu zarządzanie kryzysowe robiło jakieś szkolenia, kontrole sprzętu ( a jakie to sprzęty, maski, nosze, bosaki, łomy ) symulacje. Testowana też była aplikacja Systemu Regionalnego Ostrzegania.

Z jednej strony takie działania wydają się archaiczne wobec nowoczesnej technologii a z drugiej.... na tych wszystkich apokaliptycznych filmach, przeżywają twardziele którzy potrafią obsługiwać się nożem i rozpalić ognisko w lesie Think

sir Francis Drake

letnisztorm

Nikt nie daje obecnie koniom cukru. d'oh!

Formalny

Tina

No coz... ludzie nie beda tak dlugo zyli na ziemi jak dinozaury.

Shame on you

Formalny

Pasztet

Formalny

rosegreta

Nie boję się sztucznej inteligencji

Mimo wizji, którą już pokazywano nam w kinach...
Bo czego mam się bać... Jeśli już to boję się ludzi...
To człowiek to wszystko tworzy, programuje... Człowiek inny kupuje i używa...
Anxious

animavilis · Gość

sir Francis Drake

Formalny

Pasztet

Test Turinga jest dość przestarzałym narzędziem. Jarają się nim tylko kolesie od komputerów - opiera się tylko na słowach, czyli na 15% komunikacji.
Boty i inne tam algorytmy zwane sztuczną inteligencją są proste do wykrycia za pomocą testów pogłębionych, tych samych jakimi analizuje się ludzi z osobowością socjopatyczną. Testy graficzne (rysowanie), poczucie humoru, rozpoznawanie niezgdności mimiki z tonem głosu i słowami, etc.

Formalny

Chciałbym zwrócić Twoją uwagę na to, że Test Turinga nie znajduje się w głównym nurcie tematu, lecz w tym miejscu był raczej elementem żartu...
Wracając do testu Turinga, pomimo, że jak stwierdziłeś, jest przestarzały (1950), a powstał w czasach gdy informatykę od dzisiejszego stanu dzieliły całe epoki, to nadal nie przestał być z powodzeniem wykorzystywany jako jeden z kilku.
Celem intensywnych prac nad AI nie jest zastąpienie człowieka, lecz uzyskanie narzędzia w sposób doskonalszy sterującego procesami, które do tej pory wymagają inteligentnej analizy. W tej sytuacji wykorzystywanie Testu Turinga do testowania funkcjonalności opracowywanych programów jest jak najbardziej uzasadnione. Posługując się analogią, można by uznać, że uruchomienie w garażu silnika samochodu wyścigowego dla przetestowania podstawowych parametrów pracy jest bezsensowne, bo i tak nie odzwierciedla warunków jazdy w czasie prawdziwym wyścigu.
Główną sprawą, która mnie skłoniła do uruchomienia tego tematu, jest potencjalne zagrożenie jakie może stać się wynikiem powstania "prawdziwej" sztucznej inteligencji. Nawiasem mówiąc, mam też pewne wątpliwości co semantycznej zawartości i określenia: sztuczna inteligencja. Myślę, że precyzyjniejsze byłoby użycie określenia: inteligencja sztucznie stworzona. To jednak jest już sprawa znajdująca się na poboczu tematu, tak jak pytanie, czy Test Turinga jest przydatnym narzędziem.