Toolformer: Utilizzo di strumenti in auto-supervisione e i suoi limiti per l'AI finanziaria
Un'analisi approfondita di Toolformer (Meta AI, NeurIPS 2023): come l'addestramento auto-supervisionato filtrato per perplessità insegna a un modello da 6,7 miliardi di parametri a chiamare API esterne, dove supera GPT-3 175B nei benchmark aritmetici, e perché la sua architettura a passo singolo non può supportare le chiamate a strumenti concatenate richieste per operazioni contabili strutturate.
