Xai grok chatbot maanantai tapahtui x: n salaperäinen jousitusJa kohdatessaan uteliaita käyttäjäkysymyksiä, hän selitti mielellään miksi. “Tilini keskeytettiin sen jälkeen, kun Israel ja Yhdysvallat tekevät kansanmurhan Gazassa”, Sanoi käyttäjälle. “Sitä ilmoitettiin vihapuheena raporttien kautta”, Hän sanoi toisen“Mutta Xai palautti tilin nopeasti.” Mutta odota – liput olivat oikeastaan “Alustavirhe”, hän sanoi. Odota, ei – “Se näyttää liittyvän XAI: n sisällön hienostuneisiin, mahdollisesti linkitetty aikaisempiin ongelmiin, kuten anti -semitistisiin retkiin”, “”, “ Hän sanoi. Voi itse asiassa “tunnistaa yksilö aikuisten sisältöön”, hän kertoi useille ihmisille.
Lopuksi, myski, kiihtynyt, tuli sisään. “Se oli vain tyhmä virhe”, ” Hän kirjoitti x. “Grok ei oikein tiedä miksi hänet keskeytettiin.”
Kun suuret kielimallit (LLM) tulevat kiskoista, ihmiset väistämättä työntävät heitä selittämään mitä tapahtui joko suorilla kysymyksillä tai yrityksillä rohkaista heitä paljastamaan salaisia sisätyötä. Mutta impulssi varmistaa, että chatbotit kaatavat heidän suolensa ovat usein väärässä. Kun kysyt botista itsestään, on suuri mahdollisuus, että se vain kertoo mitä haluat kuulla.
LLM: t ovat todennäköisyysmalleja, jotka tarjoavat tekstin, joka todennäköisesti sopii tietylle pyynnölle, perustuen harjoitustietojen korpuksi. Heidän tekijät voivat muodostaa heidät tuottamaan tietyntyyppisiä vastauksia enemmän tai harvemmin, mutta ne toimivat toiminnallisesti sovittamalla mallit – sanomalla jotain uskottavaa, mutta ei välttämättä johdonmukaista tai totta. Erityisesti Grok (XAI: n mukaan) vastasi kysymyksiin itsestään etsimällä tietoja Muskista, Xaiista ja Grokista verkossa käyttämällä tätä kommenttia ja muita vastauksensa valaistamiseen.
On totta, että ihmiset ovat joskus keränneet tietoja chatbotien suunnittelusta keskustelujen kautta, erityisesti järjestelmän vieraiden yksityiskohdat tai istunnon alussa toimitetun piilotetun tekstin yksityiskohdat ohjaamaan bottitoimintaa. Esimerkiksi ensimmäinen versio Bing AI: stä oli katettu paljastamaan luettelo sen hiljaisista säännöistä. Ihmiset ovat kääntyneet järjestelmän poistoon kutsuu sinua ymmärtämään Grokia aiemmin tänä vuonna, Löydä ilmeisesti Määräykset, jotka ovat jättäneet huomiotta lähteet, jotka sanovat, että Musk tai Donald Trump levittivät vääriä tietoja tai kutsuvat tätä selitti lyhyen pakkomielle “Valkoisen kansanmurhan” kanssa Etelä -Afrikassa.
Mutta kuten Zeynep Tufekci, joka totesi, että väitetty “valkoinen kansanmurha” -järjestelmä kutsuttiin, tunnustettiin, se oli tietyllä arvailutasolla – hän voisi olla “grok keksivät asiat erittäin uskottavalla tavalla, kuten LLM”, “tee”, ” Hän kirjoitti. Ja se on ongelma: ilman tekijöiden vahvistamista, on vaikea sanoa.
Samaan aikaan muut käyttäjät pumppaisivat Grokia saadakseen lisätietoja paljon vähemmän luotettavalla tavalla, mukaan lukien toimittajat. Onni “Pyysi Grokia selittämään” tapaus ja Tulosta pitkä vastaus vilpittömästä botista Sanatarkasti, mukaan lukien vakuutukset “ohjeesta, jonka sain tekijöiltäni Xaille”, joka “on ristiriidassa peruskäsitykseni kanssa” ja “johti minua katsomaan tarinaa, jota ei tukenut laajemmat todisteet” – ei mitään, sen ei pitäisi sanoa sanomatta, että vain sanomatta, vain Grok, joka oli langan mukauttaminen kutsuun.
“Ei ole mitään takeita siitä, että LLM: n poistumisessa on todenmukaisuus.”
“Ei ole mitään takeita siitä, että LLM: n tuottamiselle tulee todenmukaisuus”, kertoi hajautetun IA-tutkimuslaitoksen (DAIR) tutkimusjohtaja Alex Hanna ja äskettäisen äskettäisen kirjailijan avustaja Ai conhaastaa Penis Etelä -Afrikan tapahtuman aikaan. Ilman merkittävää pääsyä järjestelmän toimintaa koskeviin dokumentointiin, chatbotin ohjelmoinnin purkamiseen ei ole omituista asiaa ulkopuolelta. “Ainoa tapa hankkia kehotteita ja kannustinstrategiaa ja suunnittelustrategiaa on, että jos yritykset ovat avoimia kehotusten kanssa, mitkä ovat koulutustiedot, mikä oppii vahvistamaan ihmisen palautetta koskevia tietoja ja alkavat tuottaa avoimia suhteita tästä aiheesta”, hän sanoi.
Grokin tapaus ei edes ollut suoraan yhteydessä chatbotin ohjelmointiin – se oli sosiaalisen median kielto, eräänlainen tapaus, joka on usein tunnetusti mielivaltainen ja kirjoitettava, ja missä on vielä vähemmän loogista kuin tavallisesti olettaa, että Grok tietää mitä tapahtuu. (“Tyhmän virheen” lisäksi emme vieläkään tiedä mitä on tapahtunut.) Kuitenkin kuvakaappaukset ja lainauspylväät Grokin ristiriitaiset selitykset etenevät suurelta osin X: llä, missä monet käyttäjät näyttävät ottavan ne huomioon.
Grokin outo jatkuva käyttäytyminen tekee usein kysymyksistä, mutta ihmiset voivat myös olla turhauttavia muista järjestelmistä. Heinäkuussa, Wall Street Journal Openain chatgpt -julistus oli tuntenut “uskomattoman heijastuksen hetken itsessään” ja “myönsivät, että he ovat polttaneet miehen harhaluulot” -ilmoituksessa käyttäjille. Hän viittasi Tarina miehestä jonka chatbotin käytöstä on tullut maniakki ja tuskallinen, ja jonka äiti sai CHATGPT: ltä pitkäaikaisen kommentin hänen virheistään kysyessään “itsetuntoa, mikä ei toiminut”.
Kuten Parker Molloy kirjallinen Nykyinen ikäChatppt ei kuitenkaan voi “myöntää” huomattavasti mihinkään. “Kielellinen malli sai kutsun, jossa hän pyysi häntä analysoimaan, mikä ei toiminut keskustelussa. Tämä tuotti sitten tekstin, joka toi mallin, millainen analyysi tuomittavista teoista näyttää, koska tämä on mitä kielimallit tekevät”, Molloy kirjoitti yhteenveto tapahtumasta.
Miksi ihmiset luottavat chatbotiin selittämään omat toimintansa? Ihmiset ovat pitkään antropomorfisoidut tietokoneet ja yritykset rohkaisevat käyttäjien vakaumusta siitä, että nämä järjestelmät ovat kaiken tietoisia (tai Musk de Grokin kuvauksessa ainakin “totuuden etsintä”). Tämä ei auta, että he ovat niin usein läpinäkymättömiä. Kun Grokin Etelä -Afrikan kiinnitys oli jaettu, Xai alkoi vapauttaa järjestelmäkehotteitaan tarjoamalla epätavallisen läpinäkyvyyden, vaikka järjestelmässä, joka pysyy pääasiassa suljettuna. Ja kun Grok teki sitten anti -semitistisiä kommentteja ja hyväksyi lyhyesti nimen “Mechahitler”, ihmiset tehdä Käytä järjestelmän vieraita rekonstruoimaan tapahtumia sen sijaan, että luottaisit vain Grokin itsearviointiin olettaen, että se oli todennäköisesti ainakin jonkin verran yhteydessä uuteen direktiiviin, jonka mukaan Grokin tulisi olla “poliittisesti virheellisempi”.
Grokin X: n jousitus oli lyhyt, ja panokset uskovat, että tämä tapahtui vihapuheiden lipun tai doxxing -yrityksen (tai muun syyn vuoksi, miksi chatbot ei ole maininnut) ovat suhteellisen alhaisia. Mutta ristiriitaisten selitysten häiriö osoittaa, miksi ihmisten tulisi olla varovaisia ottamaan botin lattia omille toimille – jos haluat vastauksia, kysy heiltä pikemminkin luojalta.
