Što znači "kontekstni prozor" i zašto ga freelancer mora poznavati

Kad pratite novosti o AI alatima, prije ili kasnije naletite na rečenicu poput "novi model ima znatno veći kontekstni prozor". Autori je često napišu bez objašnjenja, kao da je svima jasna. Meni se u radu s polaznicima masterklase potvrdilo da nije: mnogi prešute da im pojam nije poznat, a onda ne razumiju zašto im alat usred razgovora počne zaboravljati ono što su mu napisali prije deset minuta.

Zato ovaj tekst uzimam kao primjer onoga što nastojimo raditi u rubrici novosti: uzeti jedan pojam, skinuti mu stručni ogrtač i reći što on znači za osobu koja samostalno radi i alat koristi za ponude, prijevode ili objave. Nije potrebno predznanje, dovoljno je da ste barem jednom razgovarali s AI alatom u pregledniku.

Zamislite stol na kojem radite. Na njega stane određena količina papira; sve što je na stolu, vidite i možete uzeti u obzir. Što ne stane, ostaje u ladici i za vas kao da ne postoji. Kontekstni prozor je upravo taj stol: količina teksta koju alat može istodobno uzeti u obzir, računajući i ono što ste vi napisali i ono što je on odgovorio.

Mjeri se u jedinicama koje se zovu tokeni, a grubo ih možete zamisliti kao komadiće riječi. Za naš jezik, zbog dijakritika i dugih oblika riječi, jedna rečenica obično troši više tokena nego engleska rečenica iste duljine. Točan broj nije nešto što morate pamtiti; važno je razumjeti da granica postoji i da se dostiže brže nego što se čini.

Kad razgovor pređe tu granicu, najstariji dijelovi ispadaju iz vidokruga. Alat vam neće javiti da je nešto zaboravio. Nastavit će odgovarati samouvjereno, samo na temelju onoga što još vidi, a to je izvor mnogih zbunjujućih trenutaka.

• Kontekstni prozor je ukupna količina teksta koju alat vidi odjednom
• Uključuje i vaša pitanja i njegove odgovore
• Kad se prekorači, najstariji dio razgovora tiho nestaje

Recimo da pišete ponudu za klijenta i alatu ste na početku zalijepili klijentov upit, svoj cjenik i tri primjera ranijih ponuda. Nakon dvadesetak izmjena odjednom dobijete cijenu koju niste nikad naveli. Najčešći uzrok nije da alat 'laže', nego da se početni materijal više ne nalazi na stolu.

Slično je s prijevodima duljih dokumenata. Ako ih zalijepite odjednom, alat na kraju može upotrijebiti drugačiji izraz za isti pojam nego na početku, jer početak više ne vidi jasno. Dosljednost terminologije tada ovisi o vama, ne o alatu.

Zato kod duljih zadataka u masterklasi učimo naviku koja štedi živce: radite u manjim komadima i svaki put kratko ponovite što je bitno. Nije ni teško ni dugotrajno, a razlika u kvaliteti rezultata odmah se osjeti, osobito kad ponudu ili tekst predajete klijentu.

Prvo pravilo je jednostavno: važne podatke držite blizu mjesta gdje ih trebate. Ako se zadatak mijenja, ne nastavljajte beskonačno isti razgovor, nego otvorite novi i u prvoj poruci sažeto napišite sve što alat mora znati: tko je klijent, koji je ton, što je već dogovoreno.

Drugo, dulji razgovor povremeno zatvorite sažetkom. Zamolite alat da u pet točaka navede što je do sada utvrđeno, provjerite ga i taj sažetak zalijepite u novi razgovor. Tako prenosite znanje, a ne cijelu povijest.

Treće, ne vjerujte slijepo broju iz oglasa. Veliki prozor ne znači da alat sve u njemu jednako dobro koristi; sadržaj usred vrlo dugog teksta često se slabije uzima u obzir od početka i kraja. Provjerite na vlastitom primjeru, s vlastitim tekstom.

• Novi zadatak, novi razgovor s kratkim uvodom
• Povremeni sažetak od pet točaka kao most između razgovora
• Najvažnije upute stavite na početak ili ponovite pri kraju
• Provjerite alat na svom primjeru prije nego mu povjerite pravi posao

Kad vidite vijest da je neki alat povećao kontekstni prozor, postavite si tri pitanja. Radim li ja uopće s tekstovima te duljine? Većina ponuda, mailova i objava stane i u mnogo manji prozor, pa za vas povećanje može biti zanimljivo, ali ne i presudno.

Drugo pitanje je cijena i brzina. Duži ulaz često znači sporiji odgovor ili skuplji paket, ovisno o tome kako se alat naplaćuje. Treće je pitanje pouzdanost: postoje li neovisne provjere koje pokazuju da alat doista koristi sve što primi.

U našim pregledima nastojimo upravo to prevesti: što je nova stavka, kome koristi i kome neće promijeniti ništa. Ponekad je najkorisniji zaključak da za vaš posao ne treba ništa mijenjati, i to je potpuno u redu.

Ovih tjedana, dok se dani skraćuju i posla često ima malo više za organizirati, preporučujem jednostavan pokus. Uzmite jedan stvarni dokument, na primjer stariju ponudu, i podijelite ga u tri dijela. Prvo ga cijelog zalijepite u alat i postavite pitanje o detalju s početka, pa o detalju s kraja.

Zatim isti zadatak ponovite s dijelovima, uz kratak sažetak između njih. Usporedite odgovore i zabilježite gdje je alat griješio. Dovoljno je dvadesetak minuta.

Taj pokus daje više nego deset članaka o tehničkim specifikacijama, jer pokazuje ponašanje alata na vašem materijalu. Rezultat zapišite u bilješku, jer će vam pomoći pri odabiru alata i pri procjeni sljedeće vijesti o novom modelu.