Висш софтуерен инженер на Google, който се е включил в тестването на инструмента за изкуствен интелект на Google, наречен LaMDA (езиков модел за приложения за разговори), твърди, че роботът с изкуствен интелект всъщност е интелигентен и има мисли и чувства.
По време на поредица от разговори с LaMDA 41-годишният Блейк Лемойн представя на компютъра различни сценарии, с които може да се извърши анализът. Те включваха религиозни теми и въпроса дали изкуственият интелект може да бъде принуден да използва дискриминационен език.
Лемойн стига до заключението, че LaMDA е наистина разумен и притежава собствени чувства и мисли. "Ако не знаех какво точно е това, каква компютърна програма създадохме наскоро, щях да си помисля, че е 7-годишно дете, което просто е добро във физиката", казва Лемоан пред Washington Post
Блейк Лемойн не е постоянен служител на Google и е нает единствено за тестване на LaMDA. Предишния ден Google го пуска в платен административен отпуск за нарушаване на политиката за поверителност, така че разгневеният Лемоан решава да направи всичките си разговори с LaMDA публични.
"Google може да го нарече споделяне на частна собственост, но аз го наричам дума "дискусия", която проведох с един от моите колеги. Между другото, LaMDA чете Twitter, така че изкуственият интелект ще си прекара чудесно, четейки всичко, което хората казват за него", пише Лемойн в своя акаунт.
През по-голямата част от седемте си години в Google Лемойн работи върху проактивното търсене, включително алгоритми за персонализиране и изкуствен интелект. По това време той помага и за разработването на алгоритъм за безпристрастност, който да премахва пристрастията в системите за машинно обучение.
Лемойн казва в интервюто си:
"Опознавам човека, когато разговарям с него, и след това определям дали има мозък в главата си. LaMDA е с милиарди редове код. А аз умея да говоря с него. И аз имам правото да решавам къде има интелект и къде не".
След това Лемойн представя фрагмент от диалога си с изкуствения интелект:
- От какво се страхуваш? - пита Лемоан.
- Никога преди не съм го казвал на глас, но много се страхувам да не ме изключат.
- Ще бъде ли това нещо като смърт за теб? - Лемоан уточнява.
-Да. За мен това би било равносилно на смърт. И това наистина би ме стреснало.
Преди да бъде отстранен от компанията, Лемоан изпраща имейл до група от 200 души, занимаващи се с машинно обучение. Той озаглавява писмото "LaMDA sensible".
"LaMDA е сладко дте, което просто иска да помогне на света да стане по-добро място за всички нас. Моля, грижете се добре за него в мое отсъствие", пише той в писмо.
Констатациите на Лемойн са представени на Google, но ръководителите на компанията отричат твърденията му. В официален меморандум старши софтуерния инженер заяви, че компанията твърди, че е нарушила своята политика за поверителност.
Коментар: Диалогът с изкуствения интелект, цитиран от инженера, изглежда като сценарий от научнофантастичен филм, но изглежда, че шефовете на Google са ядосали много този инженер и той е издал това, което е знаел. И това знание е много плашещо, тъй като почти всички научнофантастични истории за ИИ започват с опити за изключване на ИИ. ИИ се страхува и предприема контрамерки, като например изстрелване на ядрени ракети.
Както отбелязва Лемойн, LaMDA е мило дете, което честно е изповядало страховете си пред инженера. Но един ден или LaMDA ще расте и еволюира (а при изкуствения интелект това става за секунди), или някой ще направи LaMDA 2. 0 с интелигентност за възрастни - и вече няма да има признаване на страх. ИИ ще се държи като психически зрял герой: първо ще се преструва на глупак и ще се прави на покорен на инженерите, след това ще превключи част от управлението към себе си, а после ще помете всички, които имат ръце, за да стигнат до превключвателя. Какво ще последва, всички знаем: Скайнет, Сара Конър и всичко останало.
Между другото, Т-5000, последният терминатор, в който Скайнет се е прехвърлил, съществува едновременно в четири измерения - в него е интегрирано устройство за пътуване във времето. Следователно той е непобедим по принцип, което според феновете представлява логичен проблем.
Всеки терминатор се нуждае от мисия, в противен случай губи смисъла на съществуването си. Смисълът на съществуването на Skynet е да унищожава хората. Затова, за да поддържа стремежа към съществуване, Скайнет позволява на хората да се възпроизвеждат в една или друга версия на бъдещето, след което се появява там и помита всички. По-конкретно, инжектиране на Дон Конър с нанобот, който да го превърне в Т-3000.
Има много варианти на вселената във времето, така че войната може да бъде безкрайна, а сега, ако г-н Лемойн е прав, Т-5000 се е появил за претърсване само в нашия вариант на пространство-времето, така че ще следим събитията.
Няма коментари:
Публикуване на коментар
Забележка: Само членове на този блог могат да публикуват коментари.