text
stringlengths 2
130k
|
|---|
UTF-8 UTF-8 varijanta je najzgodnija za kodiranje većinski latiničnog teksta. |
Dato je i kratko uputstvo za korišćenje te varijante u Microsoft Word-u, Netscape Composer-u i tekstualnom editoru Kate. |
U tekstu su takođe preporučeni standardni Unicode fontovi koji omogućavaju laku prenosivost teksta sa računara na računar ili za objavljivanje teksta na Internet. |
Prvi računari su bili pravljeni pretežno za englesko govorno područje i imali su podršku samo za engleski alfabet, za brojeve, zagrade i još po neki kontrolni karakter, što je činilo ukupno 128 mogućih slova (u 7 bita). |
To je bio tzv. "-{ASCII}-" ili "-{US-ASCII}-" standard. |
1968. godine je skup karaktera proširen na 256 (8 bita), a "gornjih" 128 karaktera je bilo korišćeno za dodatne karaktere. |
Iz neke navike je i ovaj prošireni "-{ASCII}-" nazivan "-{ASCII}-", tako da tu često dolazi do zabune. |
Da bi postojala podrška za više jezika, smišljane su tzv. kodne strane ("-{Code Page}-") koje definišu ponašanje tog dodatnog skupa slova. |
Osnovna kodna strana na personalnim računarima ("-{PC437}-") u tom gornjem setu karaktera definiše razne grafičke karaktere za crtanje tekstualnih prozora i slično. |
Kasnije je razvijeno još puno kodnih strana koje podržavaju određene jezike. |
Tako postoje "-{Latin1}-" ("-{ISO-8859-1}-") za latinična pisma Zapadne Evrope (Francuska, Nemačka, Španija, ...), "-{Latin2}-" ("-{ISO-8859-2}-") i "-{Windows-1250}-" za latinična pisma Istočne Evrope (srpska latinica i sl.), "-{ISO-8859-5}-", "-{KOI8-R}-" i "-{Windows-1251}-" za ćirilicu, itd. |
Osnovni problem sa kodnim stranama je to što se međusobno isključuju, tj. ceo dokument mora da bude napisan istim pismom. |
To uglavnom nije problem realizovati, ali ako bi bilo potrebno pomešati dva pisma, kao na primer u nekom turističkom vodiču gde zajedno postoji i tekst na srpskom, na engleskom i na francuskom, nailazi se na problem. |
Zbog toga se došlo do ideje da se napravi jedinstveni zapis za sve jezike - Junikod ("-{Unicode}-") ("-{united}-" - ujedinjen, zajednički; "-{code}-" - kod, zapis). |
Postoji više verzija Unicode-a. |
Bazična verzija je dvobajtni format zapisa do 2 = 65536 karaktera. |
Njen naziv je UCS-2 zato što koristi dva okteta, odnosno dva bajta. |
Sa tih 65536 karaktera rešen je problem zapisa skoro svih postojećih pisama (uključujući čak i neka izmišljena, kao na primer klingonsko pismo). |
Ovaj tip Unicode-a se naziva Plain UCS-2 ili UTF-16. |
Sada se javlja problem alokacije prostora za Unicode poruku na medijumu koji se koristi. |
Ako je reč o nekom dokumentu na disku, on će da zauzima duplo više prostora nego konvencionalan dokument jer će se svaki karakter zapisivati sa dva bajta umesto samo sa jednim. |
Ako je reč o prenosu podataka preko računarske mreže, biće potrebno preneti duplo više podataka, pa će samim tim i prenos da traje duplo više (odnosno da košta duplo više). |
Postavlja se pitanje da li je to suviše velika cena za univerzalno pismo i da li postoji neki način da se taj problem prevaziđe i izbegne. |
Kao rešenje uvek stoji mogućnost da se zapisuje nekom odgovarajućom kodnom stranicom i troši bajt po karakteru, ako nije neophodno korišćenje više pisama u istom dokumentu (što se retko dešava). |
Drugo rešenje je korišćenje tzv. transformacionih šeme za pogodniji zapis i prenos podataka korišćenjem Unicode-a. |
Prvo je razvijena Unicode transformaciona šema sa osnovnom jedinicom od 8 bita (UTF-8). |
Pomoću nje se karakter zapisuje u jednom, dva ili tri bajta, u zavisnosti od toga o kom je karakteru reč. |
Ova transformaciona šema je prevashodno zgodna za upotrebu u jezicima koji koriste latinicu. |
O UTF-8 će biti više reči u poglavlju "Ukratko o UTF-8". |
Jedan deo Mail Transfer Agent-a, kao i zvanični standard za Internet poštu (IETF: STD 11, RFC 822) podržava samo 7-bitne mail poruke. |
MIME standardi (RFC 2045, RFC 2046, RFC 2047, RFC 2048 i RFC 2049) omogućavaju prenos višebitnih reči preko Internet mail-a, koristeći Base64 i Quoted Printable načine kodiranja, međutim, oni nisu pravljeni za prenos Unicode-a nego za prenos bilo kakvih fajlova i nisu bili optimalna rešenja. |
Zbog toga je kasnije razvijena 7-bitna transformaciona šema UTF-7. |
Tu se karakter zapisuje u jednom ili u nekoliko bajtova, slično kao i u UTF-8. |
Osnovna razlika je u tome što UTF-7 koristi samo Base64 karaktere koji bez problema mogu da se prenose putem elektronske pošte. |
Za takvu namenu se pokazalo da je UTF-7 optimalniji zapis nego UTF-8 kada se kodira sa Base64 ili sa Quoted Printable algoritmima kodiranja. |
Postoji i noviji Unicode standard pod nazivom UCS-4 koji koristi 4 bajta za zapis 2 = 2147483648 karaktera podeljenih u tzv. ravni. |
Prva dva bajta definišu ravan, tako da ima 2 = 32768 ravni. |
Druga dva bajta definišu karakter unutar ravni, tako da ima 2 = 65536 karaktera po ravni. |
Taj noviji format je više napravljen kao plan za budućnost nego kao realna opcija, pošto još uvek ni jedan karakter nije alociran u novodobijeni prostor, odnosno svi za sada definisani karakteri (ceo UCS-2) se nalaze u ravni 0 ili osnovnoj višejezičkoj ravni (Basic Multilingual Plane, BMP). |
Međutim, pošto je UCS-4 novi standard za Unicode, treba i njega imati u vidu. |
Da bi se UCS-4 transparentno uveo u upotrebu redefinisani su formati zapisa UTF-7, UTF-8, UTF-16 i UTF-32. |
To je učinjeno tako da svaki karakter iz UCS-2 ima istu reprezentaciju u UTF-7 i UTF-8 kao i ranije. |
UTF-16 je u neku ruku sinonim za UCS-2 i sadrži više od dva bajta samo u slučaju da se kodira neki karakter van "Osnovne jezičke ravni" (BMP), koji za sada ne postoje. |
Za više informacija, pogledajte tabelu "Šema kodiranja UCS-4 u UTF-8". |
UTF-32 je u stvari način zapisa UCS-4 u kome se koriste sva četiri bajta. |
Zbog toga što viši i niži bajt (ili dva bajta) mogu da se zapišu u memoriju na dva načina, postoje još po dve podvarijante UTF-16 i UTF-32 koje se razlikuju po redosledu bajtova. |
To su UTF-16BE (big endian) i UTF-16LE (little endian) i UTF-32BE i UTF-32LE. |
Ovo nije uvedeno da bi se uvela dodatna zabuna i zbrka, nego zato što različite arhitekture računara različito čuvaju podatke. |
Takođe bih želeo da napomenem da postoje dve organizacije koje definišu dva standarda za Unicode. |
Jedan format je razvijen od strane tzv. The Unicode Consortium pod nazivom The Unicode Standard. |
Drugi standard je razvila Međunarodna organizacija za standardizaciju - International Organization for Standardization, pod nazivom ISO/IEC 10646. |
Ta dva standarda su skoro identična i razlikuju se po pitanju tzv. Han unifikacije (predstavljanje japanskih, kineskih i korejskih znakova jednim jedinstvenim skupom znakova), oko dodatnih karaktera za definisanje akcenata, a od skoro i u tome što Unicode Consortium nije još podržao UCS-4 standard. |
Međutim, za našu upotrebu slobodno možemo da smatramo da su potpuno identični. |
Međunarodna organizacija koja definiše standarde za Internet - Internet Engineering Task Force, IETF je u svojim standardima, tzv. "zahtevima za komentarima" (Request for Comments, RFC), u kojima je definisano sve što postoji na Internetu, prihvatila UTF-7 (RFC 1642 i RFC 2152), UTF-8 (RFC 2044 i RFC 2279) i UTF-16 (RFC 2781), čime su oni i "zvanično" ušli u upotrebu na Internetu, tj. svuda. |
U najnovijim standardima IETF je izostavio Unicode Consortium i koristi samo verziju ISO 10646, što znači da je zvanično priznata verzija ISO 10646. |
U HTML jeziku za opis veb stranica se javljaju još dva načina za kodiranje Unicode karaktera. |
Ovi načini troše mnogo više prostora nego originalni Unicode zapis i namenjeni su za korišćenje unutar neke od kodnih stranica za ubacivanje ponekog karaktera iz neke druge kodne stranice. |
Jedan način je zapis oktalnih vrednosti UTF-8 bajtova. |
Zapisuje se tako što se prvo zapiše karakter \, pa onda oktalna vrednost bajta. |
Ako taj karakter u UTF-8 kodiranju sadrži više bajtova, svaki bajt se zapisuje na isti način. |
Tako na primer karakter F čiji je UCS-2 kod U+0424 (U+ označava da je reč o Unicode karakteru), a UTF-8 zapis 0xD0 0xA4 ima svoj HTML oktalni zapis kao \320\244, pošto je 0xD0 = 0320(oktalni) = 208(decimalni) i 0xA4 = 0244 = 164. |
Drugi način zapisa Unicode karaktera u HTML-u je putem decimalne vrednosti njihovog UCS-2 koda. |
Zapisuje se tako što se prvo zapišu karakteri &#, pa onda decimalna vrednost UCS-2 koda i na kraju karakter ;. |
Tako bi se, na primer, gorepomenuti karakter F sa UCS-2 kodom U+0424 zapisao u HTML decimalnom zapisu kao Ф, pošto je 0x0424 = 02044 = 1060. |
UTF-8 je zamišljen kao format koji najviše odgovara latiničnom tekstu. |
To je veoma pogodno za korišćenje u izvornom kodu programa ili u raznoraznim markup jezicima (HTML, XML, \LaTeX, ...) jer su standardne komande tih programskih/markup jezika uvek ASCII, a tekst koji se koristi može da bude i ASCII i UTF-8. |
Na taj način se ne ometa rad programskog kompajlera ili parsera markup jezika, a omogućava se korišćenje višejezičke podrške. |
U UTF-8 se karakter zapisuje u obliku jednog bajta ako u svom zapisu sadrži samo najnižih 7 bita, odnosno, ako je reč o ASCII karakteru (vidi poglavlje "Razvoj elektronskog zapisa teksta"). |
Ukoliko karakter u svom Unicode zapisu sadrži samo najnižih 11 bita, u UTF-8 se zapisuje u obliku dva bajta. |
I na kraju, ako karakter sadrži svih 16 bita, zapisuje se u obliku tri bajta. |
U tabeli 1 je data šema kako se UCS-4 transformiše u UTF-8. |
Tabela je data za pun, četvorobajtni Unicode, a ako je reč o dvobajtnom Unicode-u, tj. o UCS-2, treba gledati samo prva tri reda u tabeli. |
Detaljniji opis algoritma za transformaciju može se naći u RFC 2279. |
UTF-8 nije optimalan način zapisa za kineski i japanski tekst jer umesto da se koriste dva bajta po karakteru, za takav tekst bi bilo korišćeno čak tri bajta po karakteru, ali to i nije toliko važno za nas. |
Za ćirilični tekst je, sa druge strane, sve jedno da li se koristi čisti UNICODE ili UTF-8, pošto se svaki ćirilični karakter zapisuje u obliku dva bajta i u jednom i u drugom formatu. |
Za nas je ipak optimalniji UTF-8 jer postoji mogućnost pisanja i ćirilicom i latinicom, pa ako u ćirilici već ne može da se izbegne upotreba dva bajta, u latinici se skoro svi karakteri zapisuju samo sa jednim bajtom (osim šđčćž). |
Da bi se koristio Unicode u pripremi dokumenata, potrebno je imati odgovarajuće fontove koji ga (barem delimično) podržavaju. |
Od fontova dostupnih na Windows-u, Unicode sigurno podržavaju Arial, Times New Roman, Helvetica, Verdana i Courier New fontovi, a takođe su instalirani na svim Windows platformama, tako da bi generalno trebalo da se koristi neki od tih fontova. |
Fontovi tipa TimesCirilica ili YULTimes mogu da prikažu naše karaktere, ali su daleko od Unicode-a i u prenosu fajla sa jednog na drugi računar u elektronskom obliku postoji velika šansa da taj fajl neće biti lepo čitljiv na drugom računaru, tako da bi trebalo da se takvi nestandardni fontovi izbegavaju koliko god je to moguće. |
Na LINUX-u i ostalim UNIX-ima se u samom nazivu fonta vidi da li podržava unicode ili ne, pošto poslednji deo naziva fonta predstavlja character set fonta. |
Ako tu piše iso10646, to znači da je font Unicode kompatibilan. |
Međutim, i ovde bih radi prenosivosti dokumenata, preporučio da se koriste standardni (Adobe) fontovi, kao što su Times (-adobe-times-*-iso10646-1), Utopia (-adobe-utopia-*-iso10646-1), Helvetica (-adobe-helvetica-*-iso10646-1), Courier (-adobe-courier-*-iso10646-1). |
Svetski trendovi razvoja baza podataka idu ka uvođenju Unicode-a, kao standardni način zapisa podataka i XML-a, kao standarni jezik za prenos i prezentaciju tih podataka. |
Većina baza podataka već duže vreme podržava Unicode. |
Dobar deo aplikacija za rad sa bazama koriste XML za prezentovanje i prenos podataka, zato što se pokazalo da je XML jednostavan jezik za programiranje, za koji već postoji puno parser-a i zato što se pokazalo da je XML dovoljno fleksibilan da može da prenese bilo kakav tip podataka na sličan način. |
Da bi se programi međusobno "razumeli" razvijeni su razni standardi za opis podataka koristeći XML (kao što je na primer Encoded Archival Description standard). |
To uvođenje XML-a kao glavnog jezika za podršku bazama podataka je još više učvrstilo poziciju Unicode-a, pošto se XML fajlovi standardno pišu u UTF-8 ili UTF-16. |
Zanimljiva je i ta činjenica da je Microsoft, koji se uglavnom protivi svim standardima i trudi se da definiše svoje, prihvatio XML i koristi ga gde god može. |
Cela . |
NET tehnologija je XML bazirana. |
Zbog toga može da se očekuje da će u budućnosti biti samo više XML-a i više Unicode-a i da je bitno što ranije se orijentisati ka njima. |
U tabeli 2 su izlistani skoro svi karakteri koji se kod nas koriste, sa svojim UCS-2 kodom, UTF-8 zapisom i sa HTML oktalnim i decimalnim zapisima (za više informacija pogledajte poglavlje 2). |
UCS UCS znači Universal Multiple-Octet Coded Character Set, tj. Univerzalan višeoktetno (ili višebajtno) kodiran skup karaktera. |
MTA -{Mail Transfer Agent}- ili skraćeno -{MTA}- je računarski program za prenošenje elektronske pošte sa jednog računara na drugi. |
MIME __BEZKN__ MIME (, višenamenska proširenja za elektronsku poštu) je internet standard kojim se mogućnosti elektronske pošte proširuju na slanje: Base64 U računarstvu, -{base64}- je vrsta šifrovanja koje binarni prikaz konvertuje u -{ASCII}-, 7-bitni zapis koji koristi samo mala i velika slova latinice (-{A-Z, a-z}-), brojeve (0-9) i znakove "+" i "/" i simbol "=" koji prikazuje samo sufiks. |
Specifikacije -{base64}- se nalaze u dokumentima -{RFC}- 1421 i -{RFC}- 2045. |
Ova vrsta šifrovanja se obično koristi u elektronskoj pošti i internetu po -{MIME}- standardu. |
Base64 tabela indeksa: __BEZKN__ Quoted Printable __BEZKN__ -{Quoted Printable}- je način kodiranja pomoću karaktera -{ASCII}- seta koji mogu da se odštampaju, tj. bez kontrolnih -{ASCII}- karaktera. |
Karakteri koji ne pripadaju tom setu se prikazuju u obliku =, gde predstavlja heksadecimalnu vrednost koda karaktera. |
Za više informacija pogledajte -{RFC 2045}-. |