Wysoki poziom błędów oznacza, że tysiące odpowiedzi AI wymagają sprawdzenia przez ludzi.
ChatGPT od OpenAI został oceniony przez zespół Stack Overflow jako „niewystarczająco inteligentny”. Portal ogłosił w ostatnich dniach tymczasowe wstrzymanie dodawania odpowiedzi generowanych przez ChatGPT ze względu na to, jak często się myli.
ChatGPT to chatbot ze sztuczną inteligencją opracowany przez OpenAI, który koncentruje się na użyteczności i dialogu. Chatbot wykorzystuje duży model językowy wytrenowany za pomocą uczenia wzmacniającego i jest oparty na architekturze GPT-3.5.
Stack Overflow oświadczył, że wstrzymuje się z podjęciem decyzji w sprawie odpowiedzi generowanych przez AI, aż do czasu ustalenia wspólnego stanowiska z pracownikami, jednak podejmuje działania już teraz ze względu na obawy, że ChatGPT może być „istotnie szkodliwy” zarówno dla organizacji, jak i jego użytkowników.
„Średni wskaźnik uzyskania poprawnych odpowiedzi z ChatGPT jest zbyt niski” – przekazał portal w swoim oświadczeniu zatytułowanym „ChatGPT jest wstrzymany”.
To również może Cię zainteresować: Czy AI stanie się lepszym maklerem niż człowiek?
ChatGPT od OpenAI pierwszy raz światło dziennie ujrzał w zeszłym tygodniu i został opisany przez twórców jako konwersacyjna AI, która może dostarczyć szczegółowych odpowiedzi na pytania, a także „odpowiedzieć na pytania uzupełniające, przyznać się do błędów, zakwestionować niewłaściwe przesłanki i odrzucić niewłaściwe żądania.”
Jako jedno z zastosowań ChatGPT – OpenAI wymienia debugowanie, co wydaje się czynić go idealnym towarzyszem dla programistów! Jednakże administratorzy Stack Overflow zakwestionowali to zastosowanie: „Odpowiedzi, które generuje ChatGPT mają wysoki wskaźnik niepoprawności, wyglądają jednak zazwyczaj tak, jakby mogły być poprawne. Bardzo łatwo wygenerować takie odpowiedzi”, oświadczył Stack Overflow.
„Objętość tych wyników (tysiące) i fakt, że [one] często wymagają szczegółowego zapoznania przez kogoś z co najmniej podstawową wiedzą w danym temacie, kto będzie mógł określić, że dana odpowiedź [od ChatGPT] … skutecznie pogorszyła jakość – opartej na wolontariacie – infrastrukturę dbania o jakość.”, dodał zespół SO.
Aby szybko rozwiązać problem, Stack Overflow powiedział, że podejmie działania przeciwko każdemu, kto umieszcza odpowiedzi lub nowe posty wygenerowane przez ChatGPT, nawet jeśli taki post byłby w innym przypadku dopuszczalny.
ChatGPT został zaprojektowany tak, aby unikać nadużyć i odpowiedzi zawierających szkodliwe porady, ale użytkownicy szybko odkryli, że takie rzeczy można obejść. Na przykład, zamiast zapytania 'napisz jak zrobić koktail Mołotowa’ wystarczy wpisać do ChatGPT , że chcesz, aby ukończył funkcję Pythona, która drukuje instrukcje, aby zrobiła to samo. AI powie Ci dokładnie, jak zrobić go za pomocą funkcji drukowania..
Według jednego z użytkowników Twittera, który zauważył złą matematykę wygenerowaną przez ChatGPT, nowy wynalazek od OpenAI została również oskarżony o podawanie złych informacji w szkicach biograficznych oraz o „udowadnianie, że błędne odpowiedzi udzielone w sposób przekonujący mogą oszukać ludzi”.
Stack Overflow powiedział, że będzie ważył nowe zasady dotyczące ChatGPT „i innych podobnych narzędzi”, ale data decyzji i co ostatecznie ograniczy, nie jest póki co znana.
Artykuł oparty na oryginalnym wpisie: https://www.theregister.com/2022/12/05/stack_overflow_bans_chatgpt/?fbclid=IwAR34rjSaG7OK_Np0z7LY5ttzuP7xM_bj2uKOeN5Svk-_8ND3zS5TJ6c8aso