Jöhet az érvelő mesterséges intelligencia
A Reuters névtelen forrásokra és a lap számára elérhető dokumentumokra hivatkozva számolt be arról, hogy az OpenAI, a ChatGPT fejlesztője, egy új, érvelni és logikát használni is képes mesterséges intelligenciát fejleszt – írja a Telex. Az MI kódneve jelenleg Strawberry, de korábbi dokumentumokban Q-ként hivatkoztak rá. A technológia pontos működése az OpenAI-on belül is titokban van tartva.
A Reuters által átvizsgált dokumentum egy olyan projektről szól, amely Strawberry-modelleket használ, hogy az OpenAI mesterséges intelligenciája
ne csak válaszokat generáljon a különböző promptokra, hanem képes legyen előre is tervezni, és autonóm módon és megbízhatóan navigáljon az interneten.
Az OpenAI ezt „mélykutatásnak” nevezi.
Az OpenAI szóvivője a Reutersnek elmondta: „Azt akarjuk, hogy MI-modelljeink úgy lássák és értsék a világot, mint mi. Az új MI-képességek folyamatos kutatása bevett gyakorlat az iparágban, és az a közös meggyőződés, hogy ezek a rendszerek idővel jobban tudnak majd érvelni.” A Strawberryről azonban nem nyilatkozott részletesen.
Már régebb óta dolgoznak a projekten
A projekt korábban még Q néven futott az OpenAI-n belül. Ekkor már azt lehetett hallani, hogy a modellek képesek megválaszolni trükkösebb tudományos és matematikai kérdéseket, amit a jelenlegi, széles körben elérhető modellek még nem tudnak. A Reutersnek egy másik forrás azt mondta, hogy az OpenAI belsőleg tesztelt egy olyan MI-t, amely több mint 90 százalékot ért el a MATH adatsoron, egy matematikai feladatokat tartalmazó adatcsomagon, amit MI-modellek matematikai levezetések és magyarázatok generálására használnak. Egy belső meetingen az OpenAI bemutatott egy olyan kutatási modellt, amelyről azt állította, hogy új, emberszerű érvelési képességekkel rendelkezik.
A lapnak nyilatkozó szakértők szerint
az érvelés kulcsfontosságú az emberi vagy annál magasabb szintű mesterséges intelligencia eléréséhez.
A nagy nyelvi modellek ma már gyorsan képesek nagyobb mennyiségű szövegek összefoglalására és gyors szövegírásra, de a technológia jelenleg még nem képes „használni a józan eszét” olyan problémák esetében, amelyek az ember számára megérzésen alapulnak, például a logikai tévedések felismerésénél. Amikor egy most elérhető modell ilyen jellegű problémával találkozik, megpróbálja őket megoldani, de rendszerint kevés sikerrel jár.
Az érvelés képességével ruháznák fel az MI-t
A Reuters által megkérdezett MI-szakértők szerint az MI kontextusában az érvelés képessége egy olyan modell kialakítását jelenti, amely lehetővé teszi, hogy a rendszer előre tervezzen, ismerje a fizikai világ működését, és megbízhatóan kezelje a többlépcsős problémákat. Az MI-modellek érvelésének javítása a kulcsa annak, hogy sokkal több területen lehessen őket használni, a tudományos kutatásoktól kezdve az új szoftverek tervezéséig és kifejlesztéséig.
Az OpenAI mellett más nagy szervezetek, például a Google, a Meta és a Microsoft is kísérleteznek különböző technikákkal az MI-modellek érvelési képességeinek javítására, és az MI-kutatásokat végző tudományos laborok nagy része is vizsgálja ezeket a lehetőségeket.
A lap által átnézett dokumentumokban nincs leírva, hogy a Strawberry hogyan fogja elérni ezt a magasabb szintű érvelést, egy szakértő viszont azt mondta a lapnak, hogy köze lesz egy bizonyos „poszt-tanításhoz”, ami a hagyományos, jelenleg is használt, általános adatok betáplálásán alapuló MI-tréning után következne. Ez hasonlítana a most ismert finomhangoláshoz, vagyis az olyan folyamatokhoz, amit a mai MI-k is használnak, például amikor a felhasználók visszajelzéseket küldenek a modell válaszairól.
