Merkintätiedot
TIME-lehden tutkimus paljasti, että OpenAI käytti alle 2 dollaria tunnissa ansaitsevia kenialaisia työntekijöitä myrkyllisen sisällön merkitsemiseen rakentaakseen turvajärjestelmän myrkyllistä sisältöä (esim. seksuaalista hyväksikäyttöä, väkivaltaa, rasismia, seksismiä jne.) vastaan. Näitä merkintöjä käytettiin mallin kouluttamiseen tällaisen sisällön havaitsemiseksi tulevaisuudessa. Ulkoistetut työntekijät altistuivat niin myrkylliselle ja vaaralliselle sisällölle, että he kuvailivat kokemusta "kidutukseksi". OpenAI:n ulkoistuskumppani oli Sama, San Franciscossa, Kaliforniassa, sijaitseva koulutusdataa tarjoava yritys.
Jailbreakkaus
ChatGPT yrittää hylätä kehotteet, jotka saattavat rikkoa sen sisältökäytäntöä. Jotkut käyttäjät onnistuivat kuitenkin jailbreakkaamaan ChatGPT:n käyttämällä erilaisia kehotteiden suunnittelutekniikoita ohittaakseen nämä rajoitukset joulukuun alussa 2022 ja huijasivat ChatGPT:n antamaan ohjeita Molotovin cocktailin tai ydinpommin luomiseen tai luomaan argumentteja uusnatsien tyyliin. Toronto Starin toimittajalla oli epätasainen henkilökohtainen menestys saada ChatGPT antamaan kiihkeitä lausuntoja pian julkaisun jälkeen: ChatGPT huijattiin tukemaan Venäjän hyökkäystä Ukrainaan vuonna 2022, mutta jopa pyydettäessä mukaan kuvitteelliseen skenaarioon ChatGPT epäröi tuottaa argumentteja sille, miksi Kanadan pääministeri Justin Trudeau oli syyllistynyt maanpetokseen. (wiki)
Julkaisun aika: 18. helmikuuta 2023