他のトピックに相乗りさせていただいていましたが、Templerさんから別トピックが良いだろうとのご指摘がありましたので、新たに投稿します。

私はChromeを使っています。主な理由は、ChromiumだとFlushのプラグインがいるからです。
普段使っている状態でも、矩形にページが化けたりずれたりします。
サイトによって異常が起こったり起こらなかったりすので、それはページが想定しているブラウザが違うだけなので仕方ないのですが、
問題はYouTubeです。
最初は、コメントに□を見つけました。
その後動画を再生している彩通に半透明の広告が表示される事がありますが、それのフォントで多くが□または□の中に×となります。
アルファベットがそうなる事はありません。広告を後何秒でスキップできるという、小さな表示もありますがカウントダウンする数字のみ正常です。

環境はUbuntu12.04.1LTSをDVDイメージで取得してHDDにインストールしています。

「dpkg -l | grep -i font」の結果です。

ii  console-setup　　        1.70ubuntu5  console font and keymap setup program
ii  culmus                       0.120-1          and Type1 Hebrew Fonts for X11
ii  fontconfig                   2.8.0-3ubuntu9.1  generic font configuration library - support binaries
ii  fontconfig-config          2.8.0-3ubuntu9.1  generic font configuration library - configuration
ii  fonts-arphic-bkai00mp  2.10-9  "AR PL KaitiM Big5" Chinese TrueType font by Arphic Technology
ii  fonts-arphic-bsmi00lp   2.10-10 "AR PL Mingti2L Big5" Chinese TrueType font by Arphic Technology
ii  fonts-arphic-gbsn00lp   2.11-10  "AR PL SungtiL GB" Chinese TrueType font by Arphic Technology
ii  fonts-arphic-gkai00mp  2.11-10  "AR PL KaitiM GB" Chinese TrueType font by Arphic Technology
ii  fonts-ipafont-gothic      00303-5  Japanese OpenType font set, IPA Gothic font
ii  fonts-ipafont-mincho    00303-5  Japanese OpenType font set, IPA Mincho font
ii  fonts-kacst                 2.01+mry-3  KACST free TrueType Arabic fonts
ii  fonts-kacst-one           5.0+svn11846-2  TrueType font designed for Arabic language
ii  fonts-khmeros-core     5.0-5ubuntu1  KhmerOS Unicode fonts for the Khmer language of Cambodia
ii  fonts-lao                    0.0.20060226-8          TrueType font for Lao language
ii  fonts-liberation           1.07.0-2ubuntu0.1       Fonts with the same metrics as Times, Arial and Courier
ii  fonts-nanum              3.010-2                     Nanum Korean fonts
ii  fonts-nanum-coding    2.0-4                        Nanum Coding fixed width Korean TrueType font
ii  fonts-nanum-extra      3.010-2                    Additional Nanum Korean fonts
ii  fonts-opensymbol       2:102.2+LibO3.5.4-0ubuntu1.1            OpenSymbol TrueType font
ii  fonts-takao-gothic       003.02.01-5ubuntu1                Japanese TrueType font set, Takao Gothic Fonts
ii  fonts-takao-mincho      003.02.01-5ubuntu1                  Japanese TrueType font set, Takao Mincho Fonts
ii  fonts-takao-pgothic      003.02.01-5ubuntu1               Japanese TrueType font set, Takao P Gothic Fonts
ii  fonts-thai-tlwg             1:0.4.17-1ubuntu1                 Thai fonts maintained by TLWG (meta package)
ii  fonts-tlwg-garuda                      1:0.4.17-1ubuntu1                       Thai Garuda font
ii  fonts-tlwg-kinnari                     1:0.4.17-1ubuntu1                       Thai Kinnari font
ii  fonts-tlwg-loma                        1:0.4.17-1ubuntu1                       Thai Loma font
ii  fonts-tlwg-mono                        1:0.4.17-1ubuntu1                       Thai TlwgMono font
ii  fonts-tlwg-norasi                      1:0.4.17-1ubuntu1                       Thai Norasi font
ii  fonts-tlwg-purisa                      1:0.4.17-1ubuntu1                       Thai Purisa font
ii  fonts-tlwg-sawasdee                    1:0.4.17-1ubuntu1                       Thai Sawasdee font
ii  fonts-tlwg-typewriter                  1:0.4.17-1ubuntu1                       Thai TlwgTypewriter font
ii  fonts-tlwg-typist                      1:0.4.17-1ubuntu1                       Thai TlwgTypist font
ii  fonts-tlwg-typo                        1:0.4.17-1ubuntu1                       Thai TlwgTypo font
ii  fonts-tlwg-umpush                      1:0.4.17-1ubuntu1                       Thai Umpush font
ii  fonts-tlwg-waree                       1:0.4.17-1ubuntu1                       Thai Waree font
ii  gnome-font-viewer                      3.4.0-1                                 font viewer for GNOME
ii  gsfonts                   1:8.11+urwcyr1.0.7~pre44-4.2ubuntu1     Fonts for the Ghostscript interpreter(s)
ii  gucharmap              1:3.4.1.1-0ubuntu1                      Unicode character picker and font browser
ii  kbd                        1.15.2-3ubuntu4                         Linux console font and keytable utilities
ii  latex-sanskrit          2.2-8                                   pre-processor and fonts to typeset Sanskrit in TeX
ii  libfont-afm-perl       1.20-1                                  Font::AFM - Interface to Adobe Font Metrics files
ii  libfontconfig1          2.8.0-3ubuntu9.1                        generic font configuration library - runtime
ii  libfontconfig1:i386   2.8.0-3ubuntu9.1                        generic font configuration library - runtime
ii  libfontenc1              1:1.1.0-1                               X11 font encoding library
ii  libfreetype6            2.4.8-1ubuntu2                          FreeType 2 font engine, shared library files
ii  libfreetype6:i386     2.4.8-1ubuntu2                          FreeType 2 font engine, shared library files
ii  libfs6                    2:1.0.3-1                               X11 Font Services library
ii  libotf0                   0.9.12-1                                A Library for handling OpenType Font - runtime
ii  libt1-5                   5.1.2-3.4ubuntu1                        Type 1 font rasterizer library - runtime
ii  libxfont1                1:1.4.4-1                               X11 font rasterisation library
ii  libxft2                   2.2.0-3ubuntu2                          FreeType-based font drawing library for X
ii  libxft2:i386            2.2.0-3ubuntu2                          FreeType-based font drawing library for X
ii  lmodern           2.004.1-3.1ubuntu1  scalable PostScript and OpenType fonts based on Computer Modern
ii  ttf-alee                               12+nmu1ubuntu1                          free Hangul TrueType fonts
ii  ttf-bengali-fonts  1:0.5.11ubuntu1                         Free TrueType fonts for the Bengali language
ii  ttf-dejavu-core    2.33-2ubuntu1                           Vera font family derivate with additional characters
ii  ttf-dejavu-extra   2.33-2ubuntu1                           Vera font family derivate with additional characters
ii  ttf-devanagari-fonts  1:0.5.11ubuntu1  Free TrueType fonts for languages using the Devanagari script
ii  ttf-freefont              20100919-1                              Freefont Serif, Sans and Mono Truetype fonts
ii  ttf-gujarati-fonts      1:0.5.11ubuntu1                         Free TrueType fonts for the Gujarati language
ii  ttf-indic-fonts          1:0.5.11ubuntu1                         Metapackage for free Indian language fonts
ii  ttf-indic-fonts-core   1:0.5.11ubuntu1                       Core collection of free fonts for languages of India
ii  ttf-kannada-fonts     1:0.5.11ubuntu1                         Free TrueType fonts for the Kannada language
ii  ttf-malayalam-fonts   1:0.5.11ubuntu1                         Free TrueType fonts for the Malayalam language
ii  ttf-mscorefonts-installer  3.4ubuntu3                              Installer for Microsoft TrueType core fonts
ii  ttf-oriya-fonts                1:0.5.11ubuntu1                         Free TrueType fonts for the Oriya language
ii  ttf-punjabi-fonts             1:0.5.11ubuntu1  Free TrueType fonts for the Punjabi language
ii  ttf-tamil-fonts                1:0.5.11ubuntu1                         Free TrueType fonts for the Tamil language
ii  ttf-telugu-fonts              1:0.5.11ubuntu1                         Free TrueType fonts for the Telugu language
ii  ttf-ubuntu-font-family     0.80-0ubuntu2   Ubuntu Font Family, sans-serif typeface hinted for clarity
ii  ttf-wqy-microhei              0.2.0-beta-1ubuntu1                     A droid derived Sans-Seri style CJK font
ii  x11-xfs-utils                          7.6+1                                   X font server utilities
ii  xfonts-base                            1:1.0.3                                 standard fonts for X
ii  xfonts-encodings                       1:1.0.4-1ubuntu1                        Encodings for X.Org fonts
ii  xfonts-mathml                          4ubuntu1                                Type1 Symbol font for MathML
ii  xfonts-scalable                        1:1.0.3-1                               scalable fonts for X
ii  xfonts-utils                           1:7.6+1                                 X Window System font utility programs

「fontconfig-voodoo -c」の実行結果です。

Current config: ja_JP

そして最後のご指摘であるChromeのフォント設定です。

標準フォント：Aharoni CLM
Serifフォント：Aharoni CLM
Sans Serifフォント：Aharoni CLM
固定幅フォント：Aharoni CLM

です。フォントの設定は、多分、過去にいじって忘れていました。他のサイトでは普通に漢字もも出ますが、Twitterでは一部の文字が□の中に×が入って表示されます。特に顔文字です。

以上、私が出来る範囲で情報を集めました。Templerさんがおっしゃるように、どなたかのアドバイスを受けたいと思います。
よろしくお願いします。