Glossarju

Transformer

X'inhu Transformer?

It-transformer huwa arkitettura ta' netwerk newrali introdotta fl-2017 fid-dokument ta' riċerka “Attention Is All You Need”. Fil-qalba tiegħu hemm il-mekkaniżmu tal-attenzjoni: kull kelma tiġi ponderata b'relazzjoni mal-kliem l-ieħor kollu f'test, u l-komputazzjoni tista' titwettaq b'mod parallel b'mod effiċjenti. It-transformers isostnu l-mudelli lingwistiċi tal-lum bħal GPT, Claude u BERT u jintużaw ukoll għall-immaġini u l-awdjo.

Kif jgħin KI.ordo

Il-mudelli Claude ta' Anthropic użati minn KI.ordo huma mudelli lingwistiċi kbar ibbażati fuq l-arkitettura transformer.

Suġġetti

Arkitettura
Tagħlim profond
LLM

Ipprova KI.ordo

Aġenti, flussi tax-xogħol u mudelli fi spazju tax-xogħol wieħed – demo b'xejn għal 24 siegħa.

Ibda d-demo

← It-termini kollha

Termini relatati

Generative pre-trained transformer (GPT)

GPT (generative pre-trained transformer) jirreferi għal serje ta' mudelli lingwistiċi kbar żviluppati minn OpenAI u bbażati fuq l-arkitettura tat-transformer. Il-mudelli l-ewwel jitħarrġu minn qabel fuq kwantitajiet vasti ta' test biex jbassru t-token li jmiss u mbagħad jitħarrġu aktar għad-djalogu u biex isegwu struzzjonijiet. L-ewwel mudell GPT deher fl-2018; ġenerazzjonijiet aktar tard huma l-bażi ta' ChatGPT. Fid-diskors ta' kuljum, “GPT” spiss jintuża għall-mudelli lingwistiċi in ġenerali.

Mudell tal-lingwa
Transformer
+1

BERT

BERT (Bidirectional Encoder Representations from Transformers) huwa mudell tal-lingwa introdott minn Google fl-2018. B'differenza minn mudelli preċedenti, jikkunsidra l-kuntest fuq ix-xellug u fuq il-lemin ta' kelma fl-istess ħin, u dan jgħinu jsolvi l-ambigwità. BERT huwa mfassal biex jifhem it-test aktar milli biex jikteb siltiet itwal. Jintuża għat-tfittxija, il-klassifikazzjoni tat-test, ir-rikonoxximent tal-entitajiet bl-isem u t-tweġib tal-mistoqsijiet u ffurma ħafna mudelli suċċessuri.

Mudell tal-lingwa
NLP
+1

Mudell lingwistiku kbir (LLM)

Mudell lingwistiku kbir (LLM) huwa netwerk newrali mħarreġ fuq kwantitajiet kbar ħafna ta' test, li jippermettilu jifhem u jiġġenera lingwa. Jaħdem billi jikkalkula pass pass l-aktar token probabbli li jmiss. L-LLMs jiktbu, jagħmlu sommarji, jittraduċu, iwieġbu mistoqsijiet u jiġġeneraw kodiċi; eżempji magħrufa jinkludu Claude, GPT, Gemini u Llama. Mingħajr aċċess għal sorsi kurrenti, jafu biss dak li kien fid-data tat-taħriġ tagħhom.

Mudelli lingwistiċi
IA ġenerattiva
+1

Hugging Face Transformers

Hugging Face Transformers hija librerija Python open source li tagħti aċċess għal mudelli mħarrġa minn qabel għat-test, għall-immaġini u għall-awdjo permezz ta' interface waħda u konsistenti. L-iżviluppaturi jużawha biex ineżżlu mudelli mill-Hugging Face Hub, jippruvawhom, jadattawhom għad-data tagħhom stess jew iħaddmuhom lokalment. Mill-verżjoni 5 il-librerija hija ffukata primarjament fuq PyTorch (fl-istat ta' Ottubru 2026). Eżempju: tim jittestja mudell tal-analiżi tas-sentiment bi ftit linji kodiċi biss.

Sors miftuħ
Librerija
+2