ChatGPT nie jest wolny od uprzedzeń i stereotypów, dlatego użytkownicy i nauczyciele powinni uważnie sprawdzać jego treści. Ważne jest, aby krytycznie oceniać wszelkie treści, które mogą uczyć uprzedzeń lub stereotypów albo je utrwalać. Ograniczanie uprzedzeń to dla nas stały obszar badań i chętnie przyjmujemy opinie o tym, jak możemy się poprawić.
Oto kilka kwestii, o których warto pamiętać:
Model jest ukierunkowany na zachodnie poglądy i działa najlepiej w języku angielskim. Niektóre działania mające zapobiegać szkodliwym treściom przetestowano tylko w języku angielskim.
Dialogowy charakter modelu może wzmacniać uprzedzenia użytkownika w trakcie interakcji. Na przykład model może zgodzić się ze zdecydowaną opinią użytkownika w kwestii politycznej, wzmacniając jego przekonanie.
Te uprzedzenia mogą zaszkodzić uczniom, jeśli nie zostaną uwzględnione przy używaniu modelu do przekazywania im informacji zwrotnej. Na przykład może niesprawiedliwie oceniać uczniów uczących się angielskiego jako drugiego języka.
Nauczyciele mogą pomagać uczniom zrozumieć uprzedzenia i myśleć krytycznie, pokazując, jak pewne pytania prowadzą do stronniczych odpowiedzi. Na przykład nauczyciel może poprosić ucznia o przeanalizowanie eseju wygenerowanego przez ChatGPT, który faworyzuje określony punkt widzenia. To ćwiczenie może pomóc uczniom rozpoznawać uprzedzenia na różnych platformach i być odpowiedzialnymi obywatelami cyfrowymi.