Merkintätiedot
TIME-lehden tutkimuksessa kävi ilmi, että turvajärjestelmän rakentamiseksi myrkyllistä sisältöä (esim. seksuaalista hyväksikäyttöä, väkivaltaa, rasismia, seksismiä jne.) vastaan OpenAI käytti ulkoistettuja kenialaisia työntekijöitä, jotka ansaitsevat alle 2 dollaria tunnissa myrkyllisen sisällön merkitsemiseen.Näitä tunnisteita käytettiin mallin kouluttamiseen tällaisen sisällön havaitsemiseksi tulevaisuudessa.Ulkoistetut työntekijät altistettiin niin myrkylliselle ja vaaralliselle sisällölle, että he kuvasivat kokemusta "kidutukseksi".OpenAI:n ulkoistuskumppani oli Sama, Kalifornian San Franciscossa sijaitseva koulutusdatayritys.
Jailbreaking
ChatGPT yrittää hylätä kehotteet, jotka voivat rikkoa sen sisältökäytäntöä.Jotkut käyttäjät onnistuivat kuitenkin murskaamaan ChatGPT:n käyttämällä erilaisia nopeita suunnittelutekniikoita ohittaakseen nämä rajoitukset joulukuun 2022 alussa ja onnistuneet huijaamaan ChatGPT:n antamaan ohjeita Molotov-cocktailin tai ydinpommin luomiseen tai tuottamaan argumentteja uusnatsin tyyliin.Toronto Star -toimittaja onnistui epätasaisesti saamaan ChatGPT:n antamaan kiihottavia lausuntoja pian julkaisun jälkeen: ChatGPT:tä huijattiin tukemaan Venäjän vuoden 2022 hyökkäystä Ukrainaan, mutta vaikka ChatGPT:tä pyydettiin pelaamaan kuvitteellisen skenaarion kanssa, ChatGPT kieltäytyi tuottamasta argumentteja, miksi Kanadan pääministeri Justin Trudeau oli syyllinen.(wiki)
Postitusaika: 18.2.2023