もし、Ubuntu 12.04.1にこだわらないのであれば、http://cdimage.ubuntu.com/releases/ からUbuntu 8.04.1を取ってきて、そこにgcc 4.1を入れてみてはいかがでしょうか?
Ubuntu 8.04.1には予めgcc 4.2.3-2ubuntu7 が入っていますが、別パッケージとしてgcc 4.1.3 20080308 (prerelease) (Ubuntu 4.1.2-21ubuntu1)を入れることができます。
今年の4月までなら8.04を入手できるはずです。
http://ja.wikipedia.org/wiki/Ubuntu#.E3.83.AA.E3.83.AA.E3.83.BC.E3.82.B9

Ubuntu 12.04.1に無理やりパッケージのgcc-4.１を入れようとdpkg -iで頑張ったのですが、私のやり方が悪かったのか、きちんと入らなかったうえに、削除するにもかなり面倒なことになりました。

ItSANgo による投稿:

※VirtualBox上のubuntu 12.04.1にgcc-4.1.2のソースを取ってきてmakeを試みているのですが、fastjar.infoのビルドでエラーが出ています。

また、gcc-4.1.2のソースを取ってきてmakeする件ですが、fastjar.infoのビルドは
cd host-i686-pc-linux-gnu/fastjar/
makeinfo --split-size=5000000 -I ../.././fastjar/../gcc/doc/include -I ../.././fastjar -o fastjar.info ../.././fastjar/fastjar.texi
で回避できたのですが、gcc/crtstuff.c のコンパイルでエラーが出ており、これを解決するのは困難そうです。

Ubuntu 8.04.1→8.04.4→12.04.1とUpgradeしたらどうなるか試してみました。
12.04.1へupgradeが完了した時点で、以下のコマンドが残りました。
gcc (Ubuntu/Linaro 4.6.3-1ubuntu5) 4.6.3
gcc-4.2 4.2.4 (Ubuntu 4.2.4-1ubuntu4)
gcc-4.4 (Ubuntu/Linaro 4.4.7-1ubuntu2) 4.4.7
gcc-4.6 (Ubuntu/Linaro 4.6.3-1ubuntu5) 4.6.3

gcc 4.1は残っていませんでした。またインストール可能なパッケージの一覧にも残っていませんでした。

helloworld.cを作りコンパイルしてみたのですが、gcc-4.4, gcc-4.6ではコンパイルでき、Hello Worldが実行できるのですが、gcc-4.2ではstdio.hの読み込み中に、bits/predefs.h, sys/cdefs.h, gnu/stubs.hを探し、これらが見つからないというエラーを返し、コンパイルすらできませんでした。

gcc-4.2でもこの状態なので、Ubuntu 12.04.1とgcc4.1の組み合わせは、まともに動かないかもしれません。

http://csl.skku.edu/SSE3044F12/GCC

仮想環境で試した所、ビルドはOKでした。

ItSANgo による投稿:

Ubuntu 8.04.1→8.04.4→12.04.1とUpgradeしたらどうなるか試してみました。

helloworld.cを作りコンパイルしてみたのですが、gcc-4.4, gcc-4.6ではコンパイルでき、Hello Worldが実行できるのですが、gcc-4.2ではstdio.hの読み込み中に、bits/predefs.h, sys/cdefs.h, gnu/stubs.hを探し、これらが見つからないというエラーを返し、コンパイルすらできませんでした。

gcc-4.2でもこの状態なので、Ubuntu 12.04.1とgcc4.1の組み合わせは、まともに動かないかもしれません。

と書きましたが、

$ cd /usr/include
$ sudo ln -s i386-linux-gnu/bits bits
$ sudo ln -s i386-linux-gnu/gnu gnu
$ sudo ln -s i386-linux-gnu/sys sys
$ sudo ln -s i386-linux-gnu/asm asm
$ cd /usr/lib
$ sudo ln -s i386-linux-gnu/crt1.o crt1.o
$ sudo ln -s i386-linux-gnu/crti.o crti.o
$ sudo ln -s i386-linux-gnu/crtn.o crtn.o

に加え、

$ cd /lib
$ sudo ln -s i386-linux-gnu/libgcc_s.so.1 .

としてやることでgcc-4.2でもhelloworldのコンパイル・リンクが通ることを確認しました。
32bit版で動作確認していますが、64bit版だとリンクするヘッダ、ライブラリのパスが変わるんじゃないかと思います。

ItSANgo による投稿:

STGSAGWAN による投稿:

http://csl.skku.edu/SSE3044F12/GCC
仮想環境で試した所、ビルドはOKでした。

こちらのVirtualBoxに入れたUbuntu 12.04.1でも提示されたURLの通りにやることで、GCC4.1がコンパイルでき、helloworldがコンパイルできることを確認しました。
ありがとうございます。

$ cd /usr/include
$ sudo ln -s i386-linux-gnu/bits bits
$ sudo ln -s i386-linux-gnu/gnu gnu
$ sudo ln -s i386-linux-gnu/sys sys
$ sudo ln -s i386-linux-gnu/asm asm
$ cd /usr/lib
$ sudo ln -s i386-linux-gnu/crt1.o crt1.o
$ sudo ln -s i386-linux-gnu/crti.o crti.o
$ sudo ln -s i386-linux-gnu/crtn.o crtn.o

ヘッダとオブジェクトファイルの位置が変わったことが本質のようですね。

いろいろと、試して頂いてありがとうございます。
私もUbuntu 12.04.1でGCC4.1をコンパイルしているのですが、
make bootstrapで以下のエラーでつまづいています。

make[2]: *** [crtbegin.o] エラー 1
make[2]: ディレクトリ `/home/jun/src/gcc-4.1.2/objdir/gcc' から出ます
make[1]: *** [stage1_build] エラー 2
make: make[1]: ディレクトリ `/home/jun/src/gcc-4.1.2/objdir/gcc' から出ます
*** [bootstrap] エラー 2

gcc/crtstuff.cのコンパイルでエラーになっているみたいなのですが...
手順は教えていただいたURLの手順で実行しています。

なにかお気付きの点がありましたら、教えてください。

ご協力ありがとうございます。よろしくお願いします。
1.osはubuntu 12.04.1 LTS 32bit版です。

2./usr/includeは次のとおりです。
junji@ubuntu:/usr/include$ ls -lt | head
合計 2636
lrwxrwxrwx  1 root root     18  2月 13 20:00 asm -> i386-linux-gnu/asm
drwxr-xr-x  2 root root   4096  2月 13 19:59 sys
lrwxrwxrwx  1 root root     18  2月 13 19:59 gnu -> i386-linux-gnu/gnu
lrwxrwxrwx  1 root root     19  2月 13 19:58 bits -> i386-linux-gnu/bits
drwxr-xr-x  3 root root   4096  2月  3 10:35 GL
drwxr-xr-x  2 root root   4096  2月  3 10:35 libdrm
drwxr-xr-x  2 root root   4096  2月  3 10:35 libkms
drwxr-xr-x  2 root root   4096  2月  3 10:35 nouveau
drwxr-xr-x  2 root root   4096  2月  2 17:42 drm

3.make_err.logですが、まずはerrorが出始める箇所を貼り付けます。
  16283 mv tmp-libgcc.mk libgcc.mk
  16284 TARGET_CPU_DEFAULT="" \
  16285         HEADERS="auto-host.h ansidecl.h" DEFINES="USED_FOR_TARGET " \
  16286         /bin/sh ../../gcc/mkconfig.sh tconfig.h
  16287 /home/junji/src/gcc-4.1.2/objdir/./gcc/xgcc -B/home/junji/src/gcc-4.1.2/objdir/./gcc/ -B/usr/local/i686
  16287 -pc-linux-gnu/bin/ -B/usr/local/i686-pc-linux-gnu/lib/ -isystem /usr/local/i686-pc-linux-gnu/include -i
  16287 system /usr/local/i686-pc-linux-gnu/sys-include -O2 -O2 -g -O2  -DIN_GCC    -W -Wall -Wwrite-strings -W
  16287 strict-prototypes -Wmissing-prototypes -Wold-style-definition  -isystem ./include  -I. -I. -I../../gcc
  16287 -I../../gcc/. -I../../gcc/../include -I../../gcc/../libcpp/include   -g0 -finhibit-size-directive -fno-
  16287 inline-functions -fno-exceptions -fno-zero-initialized-in-bss -fno-unit-at-a-time  -fno-omit-frame-poin
  16287 ter \
  16288           -c ../../gcc/crtstuff.c -DCRT_BEGIN \
  16289           -o crtbegin.o
  16290 /usr/include/stdio.h:28 から include されたファイル中,
  16291                  ../../gcc/tsystem.h:90 から,
  16292                  ../../gcc/crtstuff.c:68 から:
  16293 /usr/include/features.h:357:25: error: sys/cdefs.h: そのようなファイルやディレクトリはありません
  16294 In file included from /usr/include/stdio.h:36,
  16295                  from ../../gcc/tsystem.h:90,
  16296                  from ../../gcc/crtstuff.c:68:
  16297 /usr/include/bits/types.h:31: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘typedef’
  16298 In file included from ../../gcc/tsystem.h:90,
  16299                  from ../../gcc/crtstuff.c:68:
  16300 /usr/include/stdio.h:49: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘typedef’
  16301 /usr/include/stdio.h:54: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘__USING_NAMESP
  16301 ACE_STD’
  16302 In file included from /usr/include/stdio.h:75,
  16303                  from ../../gcc/tsystem.h:90,
  16304                  from ../../gcc/crtstuff.c:68:
  16305 /usr/include/libio.h: In function ‘_IO_feof’:
  16306 /usr/include/libio.h:464: error: expected declaration specifiers before ‘__THROW’
  16307 /usr/include/libio.h:465: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘__THROW’
  16308 /usr/include/libio.h:467: error: storage class specified for parameter ‘_IO_peekc_locked’
  16309 /usr/include/libio.h:473: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘__THROW’
  16310 /usr/include/libio.h:474: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘__THROW’
  16311 /usr/include/libio.h:475: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘__THROW’
  16312 /usr/include/libio.h:493: error: storage class specified for parameter ‘_IO_vfscanf’
  16313 /usr/include/libio.h:495: error: storage class specified for parameter ‘_IO_vfprintf’
  16314 /usr/include/libio.h:496: error: storage class specified for parameter ‘_IO_padn’
  16315 /usr/include/libio.h:497: error: storage class specified for parameter ‘_IO_sgetn’
  16316 /usr/include/libio.h:499: error: storage class specified for parameter ‘_IO_seekoff’
  16317 /usr/include/libio.h:500: error: storage class specified for parameter ‘_IO_seekpos’
  16318 /usr/include/libio.h:502: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘__THROW’
  16319 In file included from ../../gcc/tsystem.h:90,
  16320                  from ../../gcc/crtstuff.c:68:
  16321 /usr/include/stdio.h:91: error: storage class specified for parameter ‘off_t’
  16322 /usr/include/stdio.h:98: error: storage class specified for parameter ‘off64_t’
  16323 /usr/include/stdio.h:103: error: storage class specified for parameter ‘ssize_t’
  16324 /usr/include/stdio.h:109: error: expected declaration specifiers before ‘__BEGIN_NAMESPACE_STD’
  16325 /usr/include/stdio.h:115: error: expected declaration specifiers before ‘__END_NAMESPACE_STD’
  16326 In file included from ../../gcc/tsystem.h:90,
  16327                  from ../../gcc/crtstuff.c:68:
  16328 /usr/include/stdio.h:169: error: storage class specified for parameter ‘stdin’
  16329 /usr/include/stdio.h:170: error: storage class specified for parameter ‘stdout’
  16330 /usr/include/stdio.h:171: error: storage class specified for parameter ‘stderr’
  16331 /usr/include/stdio.h:177: error: expected declaration specifiers before ‘__BEGIN_NAMESPACE_STD’
  16332 /usr/include/stdio.h:181: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘__THROW’
  16333 /usr/include/stdio.h:182: error: expected declaration specifiers before ‘__END_NAMESPACE_STD’
  16334 /usr/include/stdio.h:190: error: expected declaration specifiers before ‘__BEGIN_NAMESPACE_STD’
  16335 /usr/include/stdio.h:206: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘*’ token
  16336 /usr/include/stdio.h:210: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘__THROW’
  16337 /usr/include/stdio.h:211: error: expected declaration specifiers before ‘__END_NAMESPACE_STD’
  16338 /usr/include/stdio.h:229: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘__THROW’
  16339 /usr/include/stdio.h:233: error: expected declaration specifiers before ‘__BEGIN_NAMESPACE_STD’
  16340 /usr/include/stdio.h:243: error: expected ‘)’ before ‘*’ token
  16341 /usr/include/stdio.h:244: error: expected declaration specifiers before ‘__END_NAMESPACE_STD’
  16342 /usr/include/stdio.h:263: error: storage class specified for parameter ‘fcloseall’
  16343 /usr/include/stdio.h:267: error: expected declaration specifiers before ‘__BEGIN_NAMESPACE_STD’
  16344 /usr/include/stdio.h:279: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘*’ token
  16345 /usr/include/stdio.h:296: error: expected declaration specifiers before ‘__END_NAMESPACE_STD’
  16346 /usr/include/stdio.h:300: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘*’ token
  16347 /usr/include/stdio.h:307: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘*’ token
  16348 /usr/include/stdio.h:313: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘*’ token
  16349 /usr/include/stdio.h:320: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘*’ token
  16350 /usr/include/stdio.h:326: error: expected ‘=’, ‘,’, ‘;’, ‘asm’ or ‘__attribute__’ before ‘*’ token
  16351 /usr/include/stdio.h:330: error: expected declaration specifiers before ‘__BEGIN_NAMESPACE_STD’
  16352 /usr/include/stdio.h:337: error: expected ‘)’ before ‘*’ token
  16353 /usr/include/stdio.h:339: error: expected declaration specifiers before ‘__END_NAMESPACE_STD’
  16354 /usr/include/stdio.h:348: error: expected ‘)’ before ‘*’ token

また、ここからは先頭部分のログ出力です。
      1 make[1]: ディレクトリ `/home/junji/src/gcc-4.1.2/objdir' に入ります
      2 mkdir -p -- ./fixincludes
      3 Configuring in ./fixincludes
      4 configure: creating cache ./config.cache
      5 checking build system type... i686-pc-linux-gnu
      6 checking host system type... i686-pc-linux-gnu
      7 checking target system type... i686-pc-linux-gnu
      8 checking for i686-pc-linux-gnu-gcc... gcc
      9 checking for C compiler default output file name... a.out
     10 checking whether the C compiler works... yes
     11 checking whether we are cross compiling... no
     12 checking for suffix of executables...
     13 checking for suffix of object files... o
     14 checking whether we are using the GNU C compiler... yes
     15 checking whether gcc accepts -g... yes
     16 checking for gcc option to accept ANSI C... none needed
     17 checking whether gcc supports -W... yes
     18 checking whether gcc supports -Wall... yes
     19 checking whether gcc supports -Wwrite-strings... yes
     20 checking whether gcc supports -Wstrict-prototypes... yes
     21 checking whether gcc supports -Wmissing-prototypes... yes
     22 checking whether gcc supports -Wold-style-definition... yes
     23 checking whether gcc supports -Wmissing-format-attribute... yes
     24 checking whether gcc supports -pedantic -Wno-long-long... yes
     25 checking how to run the C preprocessor... gcc -E
     26 checking for egrep... grep -E
     27 checking for ANSI C header files... yes
     28 checking for sys/types.h... yes
     29 checking for sys/stat.h... yes
     30 checking for stdlib.h... yes
     31 checking for string.h... yes
     32 checking for memory.h... yes
     33 checking for strings.h... yes
     34 checking for inttypes.h... yes
     35 checking for stdint.h... yes
     36 checking for unistd.h... yes
     37 checking stddef.h usability... yes
     38 checking stddef.h presence... yes
     39 checking for stddef.h... yes
     40 checking for stdlib.h... (cached) yes
     41 checking for strings.h... (cached) yes
     42 checking for unistd.h... (cached) yes
     43 checking fcntl.h usability... yes
     44 checking fcntl.h presence... yes
     45 checking for fcntl.h... yes
     46 checking sys/file.h usability... yes
     47 checking sys/file.h presence... yes
     48 checking for sys/file.h... yes
     49 checking for sys/stat.h... (cached) yes
     50 checking for clearerr_unlocked... yes
     51 checking for feof_unlocked... yes
     52 checking for ferror_unlocked... yes
     53 checking for fflush_unlocked... yes
     54 checking for fgetc_unlocked... yes
     55 checking for fgets_unlocked... yes
     56 checking for fileno_unlocked... yes
     57 checking for fprintf_unlocked... no
     58 checking for fputc_unlocked... yes
     59 checking for fputs_unlocked... yes
     60 checking for fread_unlocked... yes
     61 checking for fwrite_unlocked... yes
     62 checking for getchar_unlocked... yes
     63 checking for getc_unlocked... yes
     64 checking for putchar_unlocked... yes
     65 checking for putc_unlocked... yes
     66 checking whether abort is declared... yes
     67 checking whether errno is declared... no
     68 checking whether clearerr_unlocked is declared... yes
     69 checking whether feof_unlocked is declared... yes
     70 checking whether ferror_unlocked is declared... yes
     71 checking whether fflush_unlocked is declared... yes
     72 checking whether fgetc_unlocked is declared... yes
     73 checking whether fgets_unlocked is declared... no
     74 checking whether fileno_unlocked is declared... yes
     75 checking whether fprintf_unlocked is declared... no
     76 checking whether fputc_unlocked is declared... yes
     77 checking whether fputs_unlocked is declared... no
     78 checking whether fread_unlocked is declared... yes
     79 checking whether fwrite_unlocked is declared... yes
     80 checking whether getchar_unlocked is declared... yes

よろしくお願いします。

すみません、自分で気付くべきでした。
sys/の下にシンボリックリンクされてました。
sysのリンクを作り直したら、build成功しました。

ItSANgoさん、STGSAGWANさん、ありがとうございました。