CUDA™ 3.2 開発環境をインストールする (Linux版）
GPU CUDA 3.2 インストール CentOS 5.5
PGIアクセラレータ™ コンパイラの使用する前に、NVIDIA社の CUDA™ 環境環境をインストールしておく必要があります。ここでは、 一例として CentOS 5.5上に CUDA 3.2環境をインストールする手順を説明します。ここでの前提は、ハードウェアシステムの中に、NVIDIA社の GPU が実装されていることとします。
2011年1月4日 Copyright © 株式会社ソフテック 加藤
必要とするハードウェア、ソフトウェア環境
PGIアクセラレータ™ コンパイラを使用するためには、NVIDIA社の CUDA-enable な GeForce、Quadro、Tesla カードを有した CUDA ソフトウェアがインストールされたシステムが必要です。サポートされる GPU の詳細なリストは、NVIDIA の ウェブサイトでご覧下さい。www.nvidia.com/object/cuda_learn_products_jp.html
なお、現在、Linuxシステム(Red Hat/ CentOS /Fedora) に搭載している GPU ボードの型番を調べたい場合は、以下のコマンドを使用します。
[root@photon29 ~]# lspci | grep -i nVidia （一例） 04:00.0 VGA compatible controller: nVidia Corporation GT200 [GeForce GTX 280] (rev a1) 06:00.0 VGA compatible controller: nVidia Corporation GT200b [GeForce GTX 285] (rev a1) （私のマシンの場合、型番が出てこない例） 02:00.0 PCI bridge: nVidia Corporation Unknown device 05b1 (rev a3) 03:00.0 PCI bridge: nVidia Corporation Unknown device 05b1 (rev a3) 03:02.0 PCI bridge: nVidia Corporation Unknown device 05b1 (rev a3) 04:00.0 VGA compatible controller: nVidia Corporation Unknown device 06c0 (rev a3) 04:00.1 Audio device: nVidia Corporation Unknown device 0be5 (rev a1) 06:00.0 VGA compatible controller: nVidia Corporation Unknown device 1080 (rev a1) 06:00.1 Audio device: nVidia Corporation Unknown device 0e09 (rev a1)
また、ソフトウェアでは、Linuxシステム上でNVIDIAドライバーコンポーネントをインストールしておく必要があります。 これらは、NVIDIA の Webサイト( www.nvidia.com/cuda/) からダウンロード可能です。これらは、PGIコンポーネントではありませんので、NVIDIA 社によってライセンス並びにサポートされます。さらに、最新の PGI リリースとCUDAソフトウェア、ドライバーの両方が動作する Linux システムが必要とされます。
- NVIDIA Driver
- CUDA Toolkit
- GPU Computing SDK code samples
CUDA ソフトウェアのインストール
今回は、CentOS 5.5 にインストールするため、CUDA Zone で Red Hat Enterprise Linux 5.5 用の以下のソフトウェアをダウンロードします。これらは、インストールスクリプト形式ですので、「ルート権限」でスクリプトの実行を行います。
- devdriver_3.2_linux_64_260.19.26.run（この時点で最新ドライバー）
- cudatoolkit_3.2.16_linux_64_rhel5.5.run
- gpucomputingsdk_3.2.16_linux.run (任意でインストールする。今回は実装しない）
CentOS上での kernel-devel (kernel-source) 実装の確認
CUDAのドライバーをインストールする際、kernelの一部のモジュールの再構築が必要となります。この再構築は、CUDA driverのインストーラが行いますが、一般的に言う、kernel-sourceがシステム内に存在しない場合は、予め、その実装を行っておく必要があります。この目的では、kernel driver module のリビルドですので、kernelの全ソースは必要ではなく、RedHat/CentOSの場合は、kernel-devel の実装だけでよいです。以下のように yum ユーティリティを使用して、kernel-devel をシステムに実装します。yum については、この FAQ 記事でもその使用法を紹介しています。特に、/etc/yum.conf ファイルの中に、組織のPROXY Serverを定義することを忘れないようにして下さい。
（一例）PROXY=http://proxy.softek.co.jp:3333/）
参考 http://wiki.centos.org/HowTos/I_need_the_Kernel_Source
[root@photon29 ~]# yum install kernel-devel Loaded plugins: fastestmirror Loading mirror speeds from cached hostfile * addons: ftp.oss.eznetsols.org * base: ftp.oss.eznetsols.org * centosplus: ftp.oss.eznetsols.org * contrib: ftp.oss.eznetsols.org * extras: ftp.oss.eznetsols.org * updates: ftp.oss.eznetsols.org Trying other mirror. Setting up Install Process Resolving Dependencies --> Running transaction check ---> Package kernel-devel-2.6.18-194.26.1.el5.centos.plus.x86_64 set to be installed --> Finished Dependency Resolution （既に実装されている場合は、"Nothing to do "と言ったメッセージとなる 実装されていなければ、以下のようにyumがミラーサイトからダウンロードしてインストールする。
以下は、一例です。現システムのリビジョンにより、以下のバージョン番号が異なる場合があります。) Loaded plugins: fastestmirror Loading mirror speeds from cached hostfile * addons: ftp.oss.eznetsols.org * base: ftp.oss.eznetsols.org * centosplus: ftp.oss.eznetsols.org * contrib: ftp.oss.eznetsols.org * extras: ftp.oss.eznetsols.org * updates: ftp.oss.eznetsols.org file:///media/CentOS_5.4_Final/repodata/repomd.xml: [Errno 5] OSError: [Errno 2] そのようなファイルやディレクトリはありません: '/media/CentOS_5.4_Final/repodata/repomd.xml' Trying other mirror. Setting up Install Process Resolving Dependencies --> Running transaction check ---> Package kernel-devel-2.6.18-194.26.1.el5.centos.plus.x86_64 set to be installed --> Finished Dependency Resolution ====================================================================================== Dependencies Resolved ================================================================================ Package Arch Version Repository Size ================================================================================ Installing: kernel-devel x86_64 kernel-devel-2.6.18-194.26.1.el5.centos.plus 5.5 M Transaction Summary ================================================================================ Install 1 Package(s) Update 0 Package(s) Remove 0 Package(s) Total download size: 5.5 M Is this ok [y/N]: y Downloading Packages: kernel-devel-2.6.18-194.26.1.el5.centos.plus.x86_64.rpm | 5.5 MB 00:33 Running rpm_check_debug Running Transaction Test Finished Transaction Test Transaction Test Succeeded Running Transaction Installing : kernel-devel 1/1 Installed: kernel-devel-2.6.18-194.26.1.el5.centos.plus.x86_64 Complete! kernel-develの場所を確認する。 [root@photon29 ~]# cd /usr/src [root@photon29 src]# ls kernels redhat [root@photon29 src]# cd kernels/ root@photon29 kernels]# ls 2.6.18-164.15.1.el5.centos.plus-x86_64 2.6.18-194.11.1.el5.centos.plus-x86_64 2.6.18-164.9.1.el5.centos.plus-x86_64 2.6.18-194.26.1.el5.centos.plus-x86_64 [root@photon29 kernels]# cd 2.6.18-194.26.1.el5.centos.plus-x86_64 root@photon29 2.6.18-194.11.1.el5.centos.plus-x86_64]# pwd /usr/src/kernels/2.6.18-194.26.1.el5.centos.plus-x86_64
CUDAドライバのインストール
CUDAのドライバーは、基本的には、X display のドライバでもありますので、これをインストールする時は、X が動作していない状態で行う必要があります。Linux システムの起動では、デフォルト Run level 5 で起動されますので、Xが動作しています。これを一旦、Run level 3 に戻してから CUDA のドライバのインストールを行います。実行スクリプトの引数に、--kernel-source-path でカーネルソースの場所を明示的に指定します。スクリプト実行時に、ライセンスの許諾と 32bit OpenGL のインストールを行うかどうかの問いの後、以下のような設問が出ます。
[root@photon29 ~]# init 3 [root@photon29 tmp]# [root@photon29 tmp]# bash devdriver_3.2_linux_64_260.19.26.run (以下、続く）
--kernel-source-path /usr/src/kernels/2.6.18-194.26.1.el5.centos.plus-x86_64/ Verifying archive integrity... OK Uncompressing NVIDIA Accelerated Graphics Driver for Linux-x86_64 260.19.26.......... Please read the following LICENSE and then select either "Accept" to accept the license and continue with the installation, or select "Do Not Accept" to abort the installation. Accept Do Not Accept ※ Accept を選択 （中略） There appears to already be a driver installed on your system (version: 260.19.21). As part of installing this driver (version: 260.19.26), the existing driver will be uninstalled. Are you sure you want to continue? ('no' will abort installation) Yes No ※古いドライバーバージョンが実装されているので、これを削除する。Yesを選択。 Install NVIDIA's 32-bit compatibility OpenGL libraries? Yes No ※Yesを選択。その後、warning メッセージを出してから、以下に続く。 Would you like to run the nvidia-xconfig utility to automatically update your X configuration file so that the NVIDIA X driver will be used when you restart X? Any pre-existing X configuration file will be backed up. Yes No ※Yesを選択 Your X configuration file has been successfully updated. Installation of the NVIDIA Accelerated Graphics Driver for Linux-x86_64 (version: 260.19.26) is now complete. OK
CUDA toolkit のインストール
CUDA tool kit をインストールします。デフォルトのインストール先は、/usr/local/cudaです。スクリプトを実行します。インストールを行うディレクトリとして、その「ルート」の場所を指定します。/usr/local/cuda にインストールしたい場合は、/usr/local のみを指定して下さい。その後の "cuda" directory は自動的に追加されます。
[root@photon29 tmp]# bash cudatoolkit_3.2.16_linux_64_rhel5.5.run
------
（中略）
Enter install path (default /usr/local/cuda, '/cuda' will be appended): /usr/local
A previous version of CUDA was found in /usr/local/cuda/bin （古いバージョンが残っている）
Would you like to uninstall? (yes/no/abort): yes （削除する）
（中略）
* Please read the release notes in /usr/local/cuda/doc/
* To uninstall CUDA, delete /usr/local/cuda
* Installation Complete
GPU Computing SDK code samples のインストール
PGIコンパイラを使用する場合は、GPU Computing SDK code samplesのインストールは必要ありませので、ここでは省略します。任意にインストールして下さい。なお、このインストールは、ルート特権は必要なく、個々のユーザ権限でインストール可能です。
CUDAインストール後の Linux 設定
環境変数 PATH と LD_LIBRARY_PATH
この環境変数の設定は、PGIコンパイラを使用するだけであるのであれば、必須ではありません。CUDA Tool Kit 内の cudaprof 等の utility を使用する場合や、CUDA C言語を使用する場合は必要ですので、予め設定しておいた方が無難でしょう。CUDAソフトウェアの置かれている場所とCUDA shared library の場所を指定するため、以下の環境変数の設定を $HOME/.bashrc 等の起動 rc ファイルに定義します。ここでは、個々のユーザ id 環境下の .bashrc に設定することにします。CUDA 2.3 以降は、/usr/local/cuda/lib と /usr/local/cuda/lib64 が存在します。64ビットの Linux の場合は、LD_LIBRARY_PATHは、/usr/local/cuda/lib64を指定します
【64ビットLinux】LD_LIBRARY_PATH=/usr/local/cuda/lib64
【32ビットLinux】LD_LIBRARY_PATH=/usr/local/cuda/lib
[kato@photon29 tmp]# cd [kato@photon29 etc]# vi .bashrc （前略） export PATH=/usr/local/cuda/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/lib:$LD_LIBRARY_PATH :wq [root@photon29 etc]#
CUDAコマンドの実行検証
設定した PATH 環境変数等が反映された別の端末セッションを開き、CUDAコマンドを実行してみます。
[kato@photon29 ~]$ which nvcc
/usr/local/cuda/bin/nvcc
(テストプログラム作成）
[kato@photon29 ~]$ vi test.c
main()
{printf("hello\n");}
:wq
[kato@photon29 ~]$ nvcc -V (nvcc コンパイラのバージョン確認）
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2010 NVIDIA Corporation
Built on Wed_Nov__3_16:16:57_PDT_2010
Cuda compilation tools, release 3.2, V0.2.1221
[kato@photon29 ~]$ nvcc test.c
[kato@photon29 ~]$ ./a.out
hello
[kato@photon29 ~]$ ldd a.out (shared library のリンク確認）
libcudart.so.3 => /usr/local/cuda/lib64/libcudart.so.3 (0x00002b7c89906000)
libstdc++.so.6 => /usr/lib64/libstdc++.so.6 (0x00000039c9000000)
libm.so.6 => /lib64/libm.so.6 (0x00000039b5e00000)
libgcc_s.so.1 => /lib64/libgcc_s.so.1 (0x00000039c7800000)
libc.so.6 => /lib64/libc.so.6 (0x00000039b5a00000)
libdl.so.2 => /lib64/libdl.so.2 (0x00000039b6200000)
libpthread.so.0 => /lib64/libpthread.so.0 (0x00000039b6600000)
librt.so.1 => /lib64/librt.so.1 (0x00000039b6a00000)
/lib64/ld-linux-x86-64.so.2 (0x00000039b5600000)
以上で、CUDA の開発環境のセットアップは終了します。
PGIコンパイラの pgaccelinfo コマンドでGPUボード情報を出力
PGIコンパイラが既にインストールされている場合は、pgaccelinfo コマンドで、実装されているNVIDIA GPUボード情報が出力できます。
（ご注意）PGI 11.0 リビジョンの pgaccelinfo コマンドが動作しません。これを回避するには、ご自身の .bashrc 等で、環境変数 LD_LIBRARY_PATH に、以下のパスを追加設定してください。この問題は、PGI 11.1 で修正されました。
$ export LD_LIBRARY_PATH=$PGI/linux86-64/2011/lib:$LD_LIBRARY_PATH
[kato@photon29 GPGPU]$ pgaccelinfo CUDA Driver Version 3020 <== この番号は、NVIDIAドライバーのバージョン番号 3.2の意味 Device Number: 0 Device Name: GeForce GTX 580 Device Revision Number: 2.0 Global Memory Size: 1609760768 Number of Multiprocessors: 16 Number of Cores: 512 Concurrent Copy and Execution: Yes Total Constant Memory: 65536 Total Shared Memory per Block: 49152 Registers per Block: 32768 Warp Size: 32 Maximum Threads per Block: 1024 Maximum Block Dimensions: 1024, 1024, 64 Maximum Grid Dimensions: 65535 x 65535 x 1 Maximum Memory Pitch: 2147483647B Texture Alignment: 512B Clock Rate: 1544 MHz Initialization time: 13166 microseconds Current free memory: 1478098944 Upload time (4MB): 902 microseconds ( 715 ms pinned) Download time: 1123 microseconds ( 646 ms pinned) Upload bandwidth: 4650 MB/sec (5866 MB/sec pinned) Download bandwidth: 3734 MB/sec (6492 MB/sec pinned) Device Number: 1 Device Name: GeForce GTX 480 Device Revision Number: 2.0 Global Memory Size: 1610285056 Number of Multiprocessors: 15 Number of Cores: 480 Concurrent Copy and Execution: Yes Total Constant Memory: 65536 Total Shared Memory per Block: 49152 Registers per Block: 32768 Warp Size: 32 Maximum Threads per Block: 1024 Maximum Block Dimensions: 1024, 1024, 64 Maximum Grid Dimensions: 65535 x 65535 x 1 Maximum Memory Pitch: 2147483647B Texture Alignment: 512B Clock Rate: 1401 MHz Initialization time: 13166 microseconds Current free memory: 1501560832 Upload time (4MB): 897 microseconds ( 720 ms pinned) Download time: 1120 microseconds ( 650 ms pinned) Upload bandwidth: 4675 MB/sec (5825 MB/sec pinned) Download bandwidth: 3744 MB/sec (6452 MB/sec pinned)
