Gluais

Pathways Language Model (PaLM)

Cad is Pathways Language Model (PaLM) ann?

Is mór-mhúnla teanga ó Google é PaLM, a nochtadh in 2022 le 540 billiún paraiméadar agus a oiliúnaíodh trasna go leor sceallóg TPU ag an am céanna le córas oiliúna Pathways de chuid Google. Lean PaLM 2 in 2023 agus thug sé cumhacht, i measc rudaí eile, don chatbhot Bard. Ó shin i leith tá múnlaí Gemini curtha in ionad PaLM ag Google, agus dúnadh API forbróra PaLM i mí Lúnasa 2024. Inniu tá PaLM tábhachtach go príomha mar chloch mhíle i bhforbairt mór-mhúnlaí teanga.

Topaicí

samhail teanga
Google
stair na múnlaí

Bain triail as KI.ordo

Gníomhairí, sreafaí oibre agus teimpléid in aon spás oibre amháin – taispeántas 24 uair an chloig saor in aisce.

Tosaigh an taispeántas

← Gach téarma

Téarmaí gaolmhara

Mórshamhail teanga (LLM)

Líonra néarach is ea mórshamhail teanga (LLM) a oiliúnaítear ar thoirt an-mhóra téacs, rud a chuireann ar a chumas teanga a thuiscint agus a ghiniúint. Oibríonn sé trí an token is dóichí eile a ríomh, céim ar chéim. Scríobhann LLManna, déanann siad achoimriú, aistriú, freagraíonn siad ceisteanna agus gineann siad cód; i measc na samplaí aitheanta tá Claude, GPT, Gemini agus Llama. Gan rochtain ar fhoinsí reatha, ní fhéadann siad ach an méid a bhí ina gcuid sonraí oiliúna a bheith ar eolas acu.

Samhlacha teanga
IS ghineadach
+1

Transformer

Ailtireacht líonra néarach is ea an trasfhoirmeoir a tugadh isteach in 2017 sa pháipéar taighde “Attention Is All You Need”. Ag a croílár tá an mheicníocht aird: tugtar meáchan do gach focal i gcoibhneas leis na focail eile go léir i dtéacs, agus is féidir an ríomh a dhéanamh go comhthreomhar go héifeachtúil. Tá trasfhoirmeoirí mar bhunús le múnlaí teanga an lae inniu ar nós GPT, Claude agus BERT agus úsáidtear freisin iad d’íomhánna agus d’fhuaim.

Ailtireacht
Domhainfhoghlaim
+1

Samhail bhunúsach

Samhail mhór IS réamh-oilte ar shonraí an-fhairsing, ilghnéitheacha is ea samhail bhunúsach a úsáidtear ansin do go leor tascanna éagsúla. Cumadh an téarma in Ollscoil Stanford in 2021. I measc na samplaí aitheanta tá mórshamhlacha teanga ar nós Claude nó GPT, chomh maith le samhlacha íomhá. Tógann gnólachtaí a bhfeidhmchláir ar shamhlacha den sórt sin de ghnáth seachas a gcuid féin a oiliúint ón tús; tagraíonn an Gníomh um Intleacht Shaorga san AE do shamhlacha IS ceannchuspóra.

Bunsamhail
Samhlacha teanga
+1

Claochladán réamhoilte giniúnach (GPT)

Tagraíonn GPT (generative pre-trained transformer) do shraith mórshamhlacha teanga a d'fhorbair OpenAI agus atá bunaithe ar ailtireacht an chlaochladáin. Déantar na samhlacha a réamhoiliúint ar dtús ar thoirt ollmhóra téacs chun an chéad token eile a thuar agus ansin oiliúnaítear tuilleadh iad le haghaidh idirphlé agus treoracha a leanúint. Tháinig an chéad samhail GPT amach in 2018; tá glúnta níos déanaí mar bhunús le ChatGPT. I ngnáthchaint úsáidtear ‘GPT’ go minic do shamhlacha teanga i gcoitinne.

Samhail teanga
Transformer
+1