Jednakże japoński to zupełnie inny język niż chiński, więc opracowano dwa fonetyczne sylabariusze: hiraganę i katakanę, aby ułatwić to, co było trudnym pogodzeniem chińskiego systemu pisania z językiem japońskim.
Znaki kanji są logogramami, co oznacza, że nie reprezentują pozbawionego znaczenia dźwięku, jak np. alfabety, lecz słowa lub morfemy (najmniejsze cząstki języka, posiadające znaczenie). Rozróżnienie to jest dość istotne – istnienie osobnego znaku dla każdego słowa byłoby skrajnie niepraktyczne ze względu na olbrzymią liczbę wymaganych w takiej sytuacji znaków. Przykładowo, słowo „ogień” zapisuje się znakiem 火 (hi), ale już słowo „samolot” nie posiada w japońskim piśmie osobnego znaku, lecz wymaga do zapisu trzech: 飛行機 (hikōki). Znaki te reprezentują odpowiednio morfemy: „lecieć”; „iść, zmierzać ku, udawać się do”; „maszyna”.