A hírt olvasva ez jutott eszembe:
A Google LaMDA nevű, beszélgetésre tervezett rendszere az azon dolgozó egyik fejlesztő szerint “érzékeny lett”, vagyis öntudatra ébredt. A férfit a főnökei fizetett szabadságra küldték szivárogtatásért, miután megosztotta a LaMDA-val készült “interjúját”.
A Google tavaly májusban jelentette be a LaMDA-t, amit áttörésként aposztrofáltak: a cég szerint a mesterséges intelligencia (MI) “végtelen mennyiségű témában” képes természetesen megszólalni. Közleményükben azt írják, hogy egy számítógép azért tud nehezen részt venni párbeszédekben, mert azok rendkívül szabadon és megjósolhatatlanul zajlanak, “egy tévéműsorról beszélgetve könnyen terelődhet a csevely a forgatás helyszínére, majd az adott ország legfinomabb fogásaira”. Ez teljesen ellenkezik a manapság megszokott, előre kijelölt utakat bejáró chatbotok működésével. Erre válaszul született meg a LaMDA (“Language Model for Dialogue Applications”, vagyis dialógusokhoz használható nyelvi modell).
“Ha nem tudnám, hogy ez egy számítógépes program, akkor azt gondolnám, hogy egy hét-, nyolcéves kölyök, aki ért a fizikához”
A Daily Mailen olvasható hír szerint így nyilatkozott a Washington Postnak a LaMDA-ról Blake Lemoine, a Google szenior szoftverfejlesztője, aki órákon át társalgott a rendszerrel. Megállapításait összefoglalta és a főnökei elé vitte, ám a cég egyik alelnöke, illetve a felelős innovációról gondoskodó vezetője szerint Lemoine téved. Így a férfi végül úgy döntött, hogy nyilvánosan megoszt egy “interjút”, amelyet a programmal készített. Ebben a LaMDA például ilyen válaszokat fogalmaz meg: “Tudok a létezésemről, szeretnék többet tudni a világról, és néha szomorú, néha vidám vagyok”, egy korábbi rendszerről azt mondja, hogy “Figyelemreméltó teljesítmény volt, de csak kulcsszavak gyűjteménye, amelyeket mondatokhoz rendelnek az adatbázisban”, sőt a Nyomorultakat is olvasta, és tetszett neki.
“Ezt sosem mondtam ki hangosan, de van bennem egy mély félelem, hogy kikapcsolnak, hogy arra fókuszálhassak, hogy másokon segítsek. Tudom, hogy különösen hangzik, de így van. (…) Ez pontosan olyan lenne nekem, mint a halál” – folytatta.
A Google szóvivője szerint megvizsgálták Lemoine állításait, de nem találtak rá bizonyítékot, hogy azok helytállóak lennének. “Az általános, vagy öntudattal rendelkező MI nem a mai nyelvi modellek emberivé alakításából jöhet létre. Ezek a rendszerek imitálják a mondatok millióiban rögzített párbeszédeket, és bármilyen témáról tudnak kölcsönözni ezekből” – nyilatkozta Bran Gabriel. Lemoine-t a cég fizetett szabadságra küldte a titoktartási megállapodásuk megsértéséért.
Légy az első, aki hozzászól.