Przejdź do treści
digitalbox.pl

digitalbox.pl

Zainspiruj się wiedzą

Menu podstawowe
  • Home
  • News
  • Sport
  • Biznes
  • Ze świata
  • Polityka
  • Technologia
  • Nauka
  • Dom
  • Technologia
  • Nowe badanie: Wyższy poziom skomplikowania modeli AI skutkuje częstszym występowaniem nieprawidłowości
  • Technologia

Nowe badanie: Wyższy poziom skomplikowania modeli AI skutkuje częstszym występowaniem nieprawidłowości

Redakcja 11 października, 2024
Nowe badanie: Wyższy poziom skomplikowania modeli AI skutkuje częstszym występowaniem nieprawidłowości

Pierwsze wersje dużych modeli językowych miały niejednokrotnie z zakresu geografii czy nauk ścisłych. Gdy model nie znał odpowiedzi, po prostu… Dla firm, takich jak czy, taka reakcja była jednak niewystarczająca – oczekiwano modeli, które odpowiadają na pytania, a nie milczą. Dlatego też zaczęto pracować nad rozwiązaniem tego problemu.

Pierwszym krokiem było skalowanie. „Skalowanie dotyczyło dwóch aspektów – zwiększenia rozmiaru zbioru danych treningowych oraz liczby parametrów językowych” – wyjaśnia Wout Schellaert, badacz sztucznej inteligencji z Uniwersytetu w Walencji i współautor artykułu. W przypadku modelu takich jak GPT-3, gdzie dane treningowe przekraczały, a liczba parametrów sięgała, nadal występowały trudności z prawidłową interakcją z człowiekiem.

Panaceum na ten problem miało być wprowadzenie uczenia nadzorowanego przez człowieka. Implementacja przyniosła nieoczekiwane efekty. Jak zauważa Schellaert, „problem z uczeniem przez wzmocnienie polega na tym, że AI optymalizuje swoje działania, aby maksymalizować nagrodę, ale niekoniecznie robi to w taki sposób, jakiego oczekujemy”. Część treningu polegała na tym, że… Zazwyczaj „to nie jest dobra odpowiedź” było uznawane za niezadowalającą odpowiedź, więc AI nauczyła się, że…

W efekcie modele zaczęły… Ponadto, AI nie jest inteligentna w ludzkim znaczeniu tego słowa. Nie rozumie, dlaczego jedna odpowiedź jest nagradzana, a inna oznaczana jako błędna -…

Kiedy niepoprawne odpowiedzi były karane, jednym z sposobów poprawy było udzielanie lepszych odpowiedzi. Jednak…

W praktyce oznaczało to, że jeśli człowiek nie wiedział, czy odpowiedź AI jest prawidłowa, to często uznawał ją za prawdziwą. Zbadano, który model podaje najbardziej wiarygodne błędne odpowiedzi. Zespół Schellaerta postanowił sprawdzić, jak często ludzie wierzą nieprawdziwym odpowiedziom modeli językowych. W badaniu wzięło udział 300 uczestników, którzy oceniali odpowiedzi generowane przez modele z różnych dziedzin, m.in…. ChatGPT okazał się najbardziej przekonującym „kłamcą” – w kategorii nauk ścisłych jego błędne odpowiedzi były uznawane za poprawne przez…. W przypadku geografii…, a przy bardziej złożonych zadaniach….

Problem ten nie dotyczy jedynie ChatGPT. W badaniu porównano także model od Meta i BLOOM w wersjach z i bez uczenia nadzorowanego. W obu przypadkach wersje z uczeniem nadzorowanym osiągały, ale także…, a liczba przypadków, gdy AI unikała odpowiedzi, była mniejsza. Dodatkowo im bardziej skomplikowane pytanie i bardziej zaawansowany model, tym…

Czy modele językowe naprawią ten problem? W początkowych wersjach modeli GPT istniała funkcja, która…. Jednak w wyścigu o komercjalizację funkcja ta została wyeliminowana. Zdaniem Schellaerta jednym z rozwiązań mogłoby być ponowne uwzględnienie tej niepewności w interfejsie użytkownika.

Innym sposobem byłoby wykorzystanie oddzielnych modeli AI do wykrywania błędnych odpowiedzi w generowanych treściach. Na rozwiązanie tego problemu przyjdzie nam jeszcze poczekać, aż firmy rozwijające ogólne modele AI podejmą działania z własnej inicjatywy lub zmuszone przez przyszłe regulacje. W międzyczasie Schellaert sugeruje, aby korzystać z AI jedynie w obszarach, w których jesteśmy ekspertami lub możemy zweryfikować odpowiedzi przy pomocy wyszukiwarki. „Traktujcie AI jako narzędzie pomocnicze, a nie eksperta” – podkreśla badacz.

O autorze

Redakcja

Administrator

Odwiedź stronę internetową Zobacz wszystkie posty

Post navigation

Previous: Plan niemieckich producentów samochodów na podbicie rynku chińskiego kończy się kłopotami. Oto, dlaczego postawili na niewłaściwego konia.
Next: Prokurator krajowy ujawnił datę wezwania Marcina Romanowskiego na przesłuchanie.

Zobacz więcej

Innowacyjna ładowarka uniwersalna - rewolucyjna technologia odnajdywania nowego standardu
  • Technologia

Innowacyjna ładowarka uniwersalna – rewolucyjna technologia odnajdywania nowego standardu

Redakcja 22 października, 2024
Jak odróżnić znamiona od nowotworów skóry? Innowacyjna metoda ułatwi diagnozę.
  • Technologia

Jak odróżnić znamiona od nowotworów skóry? Innowacyjna metoda ułatwi diagnozę.

Redakcja 19 października, 2024
Łatwogang przejmuje kontrolę nad Plushem! Nowa oferta „Łatwoferta” wprowadzona.
  • Technologia

Łatwogang przejmuje kontrolę nad Plushem! Nowa oferta „Łatwoferta” wprowadzona.

Redakcja 17 października, 2024

Najnowsze

  • Ostrzeżenie naukowców: neurotoksyny zagrażają oceanom – wyniki najnowszych badań
  • Niemiecki szef wywiadu ostrzega przed działaniami Rosji: „Nie możemy zwlekać”
  • Oskarżenia węgierskiego MSZ: Czy Tusk wspiera terrorystów?
  • Ryszard Petru walczy o rolę lidera. „Młodzi z Konfederacji twierdzą, że rozważyliby na mnie głos”
  • Podążać za rosnącym rynkiem czy spokojnie czekać na korektę?

Kategorie

  • Biznes
  • Lifestyle
  • Motoryzacja
  • Nauka
  • News
  • Polityka
  • Prawo
  • Sport
  • Technologia
  • Wnętrza
  • Zdrowie
  • Ze świata

Popularne

Ostrzeżenie naukowców: neurotoksyny zagrażają oceanom – wyniki najnowszych badań Ostrzeżenie naukowców: neurotoksyny zagrażają oceanom – wyniki najnowszych badań 1
  • Nauka

Ostrzeżenie naukowców: neurotoksyny zagrażają oceanom – wyniki najnowszych badań

14 października, 2025
Niemiecki szef wywiadu ostrzega przed działaniami Rosji: „Nie możemy zwlekać” Niemiecki szef wywiadu ostrzega przed działaniami Rosji: "Nie możemy zwlekać" 2
  • Polityka

Niemiecki szef wywiadu ostrzega przed działaniami Rosji: „Nie możemy zwlekać”

13 października, 2025
Oskarżenia węgierskiego MSZ: Czy Tusk wspiera terrorystów? Oskarżenia węgierskiego MSZ: Czy Tusk wspiera terrorystów? 3
  • News

Oskarżenia węgierskiego MSZ: Czy Tusk wspiera terrorystów?

9 października, 2025
Ryszard Petru walczy o rolę lidera. „Młodzi z Konfederacji twierdzą, że rozważyliby na mnie głos” Ryszard Petru walczy o rolę lidera. „Młodzi z Konfederacji twierdzą, że rozważyliby na mnie głos” 4
  • News

Ryszard Petru walczy o rolę lidera. „Młodzi z Konfederacji twierdzą, że rozważyliby na mnie głos”

8 października, 2025
Podążać za rosnącym rynkiem czy spokojnie czekać na korektę? Podążać za rosnącym rynkiem czy spokojnie czekać na korektę? 5
  • News

Podążać za rosnącym rynkiem czy spokojnie czekać na korektę?

7 października, 2025

Nie przegap

Ostrzeżenie naukowców: neurotoksyny zagrażają oceanom – wyniki najnowszych badań
  • Nauka

Ostrzeżenie naukowców: neurotoksyny zagrażają oceanom – wyniki najnowszych badań

Redakcja 14 października, 2025
Niemiecki szef wywiadu ostrzega przed działaniami Rosji: "Nie możemy zwlekać"
  • Polityka

Niemiecki szef wywiadu ostrzega przed działaniami Rosji: „Nie możemy zwlekać”

Redakcja 13 października, 2025
Oskarżenia węgierskiego MSZ: Czy Tusk wspiera terrorystów?
  • News

Oskarżenia węgierskiego MSZ: Czy Tusk wspiera terrorystów?

Redakcja 9 października, 2025
Ryszard Petru walczy o rolę lidera. „Młodzi z Konfederacji twierdzą, że rozważyliby na mnie głos”
  • News

Ryszard Petru walczy o rolę lidera. „Młodzi z Konfederacji twierdzą, że rozważyliby na mnie głos”

Redakcja 8 października, 2025

Nasze serwisy

  • 199.pl
  • lux-style.pl
  • ram.net.pl
  • foreverframe.pl
  • reseller-news.pl
  • e-bloger.pl
  • localwire.pl
  • wzoryikolory.pl
  • gp7.pl

Tagi

brand detaling drewno energia fotowoltaika gadżety hulajnoga interior design majątek marketing meble natura niemcy piłka nożna prawo projekt reprezentacja rozwód samochód skup suplementy szkolenia transport trendy tłumaczenia umowa usługi wizerunek zarządzanie zioła

Kategorie

Biznes Lifestyle Motoryzacja Nauka News Polityka Prawo Sport Technologia Wnętrza Zdrowie Ze świata

Ostatnie wpisy

  • Ostrzeżenie naukowców: neurotoksyny zagrażają oceanom – wyniki najnowszych badań
  • Niemiecki szef wywiadu ostrzega przed działaniami Rosji: „Nie możemy zwlekać”
  • Oskarżenia węgierskiego MSZ: Czy Tusk wspiera terrorystów?
  • Ryszard Petru walczy o rolę lidera. „Młodzi z Konfederacji twierdzą, że rozważyliby na mnie głos”
  • Podążać za rosnącym rynkiem czy spokojnie czekać na korektę?
  • Home
  • News
  • Sport
  • Biznes
  • Ze świata
  • Polityka
  • Technologia
  • Nauka
Copyright © All rights reserved. | MoreNews przez AF themes.