PGIアクセラレータを使用した行列積の計算とGPU性能

(    1)        module matmul
(    2)        contains
(    3)        subroutine mm( a, b, c, n, m, p)
(    4)        integer(4) :: m,p,n
(    5)        real(4), dimension(:,:) :: a, b, c
(    6)
(    7) !$acc region
(    8) !$acc do parallel,vector(16)
(    9)        do j = 1, m
(   10)           do i = 1, n
(   11)              a(i,j)= 0.0
(   12)           end do
(   13)           do k = 1, p
(   14) !$acc do parallel,vector(16)
(   15)              do i = 1, n
(   16)                 a(i,j) = a(i,j) + b(i,k)*c(k,j)
(   17)              enddo
(   18)           enddo
(   19)        enddo
(   20) !$acc end region
(   21)        end subroutine
(   22)        end module matmul
(   23)
(   24)        program GPUtest
(   25)        use matmul
(   26)
(   27) #if defined (_ACCEL)
(   28)         use accel_lib
(   29) #endif
(   30)
(   31)        integer(4) :: n,m,p
(   32)        integer(4) :: i,j,k
(   33)        character(10) :: arg
(   34)        integer(4) :: hz, clock0, clock1
(   35)        real(8) :: walltime, mflops
(   36)        real(4), dimension (:,:), allocatable :: a, b, c
(   37)
(   38)        n=0
(   39)        m=0
(   40)        p=0
(   41)
(   42)        args = command_argument_count()
(   43)        if( args .gt. 0 ) then
(   44)          call getarg( 1, arg )
(   45)          read (arg, '(I10)') n
(   46)          if( args .gt. 1 ) then
(   47)            call getarg( 2, arg )
(   48)            read (arg, '(I10)') m
(   49)            if( args .gt. 2 ) then
(   50)              call getarg( 3, arg )
(   51)              read (arg, '(I10)') p
(   52)            endif
(   53)          endif
(   54)        endif
(   55)
(   56)        if(n <= 0) n=100
(   57)        if(m <= 0) m=100
(   58)        if(p <= 0) p=100
(   59)        allocate( a(n,m) )
(   60)        allocate( b(n,p) )
(   61)        allocate( c(p,m) )
(   62)
(   63)        b= 3.0e0
(   64)        c= 4.0e0
(   65)
(   66)        call system_clock(count_rate=hz)
(   67)        print '(/1x,a,e12.6)', "system_clock resolution: ", real(1.d0/hz)
(   68)
(   69) #if defined (_ACCEL)
(   70)        ! GPU explicitly is initialized
(   71)        call system_clock(count=clock0)
(   72)        call acc_set_device( acc_device_nvidia )
(   73)        call acc_init( acc_device_nvidia )
(   74)        call system_clock(count=clock1)
(   75)        walltime= real((clock1-clock0)) / real (hz)
(   76)        print '(1x,a,F8.4,a)', 'initialize nvidia, initilize time = ',
(   77)      + walltime, " second"
(   78) #endif
(   79)
(   80)        call system_clock(count=clock0)
(   81)
(   82)          call mm(a,b,c,n,m,p)
(   83)
(   84)        call system_clock(count=clock1)
(   85)        walltime= real((clock1-clock0)) / real (hz)
(   86)
(   87)        mflops = (real(m)*real(p)*2*real(n)) / (walltime * 1.0d+06)
(   88)        print '(/1x,3(I5,1x,a,1x))', n,"x",m,"x",p,' matrix size'
(   89)        print '(3x,F10.6,a)', walltime, ' seconds on GPU'
(   90)        write (*,901) mflops*1.e-3," GFLOPS/s"
(   91) 901    format(5x,f8.3,a)
(   92)
(   93)        end program

● コンパイル時の GPU翻訳に関するメッセージ -Minfo=accel 
[kato@photon29 MAT]$ make
pgfortran -c -fastsse -Minfo=accel -ta=nvidia:3.0,time -Mlist matmul.F
mm:
      7, Generating copyout(a(1:n,1:m))
         Generating copyin(c(1:p,1:m))
         Generating copyin(b(1:n,1:p)) （Host～GPU memory間のデータ転送を行うコード生成）
         Generating compute capability 1.0 binary
         Generating compute capability 1.3 binary
         Generating compute capability 2.0 binary (Compute Capability 1.0 ～ 1.3、2.0対応コード生成）
      9, Loop is parallelizable
     10, Loop is parallelizable
         Accelerator kernel generated （行番号9-10 ループ：アクセラレータ CUDA kernel を生成する）
          9, !$acc do parallel, vector(16)
         10, !$acc do parallel, vector(16)
             CC 1.0 : 6 registers; 24 shared, 88 constant, 0 local memory bytes; 100 occupancy
             CC 1.3 : 6 registers; 24 shared, 88 constant, 0 local memory bytes; 100 occupancy
             CC 2.0 : 6 registers; 8 shared, 112 constant, 0 local memory bytes; 100 occupancy
     13, Loop carried reuse of 'a' prevents parallelization (kループでは "a配列" により並列化できない）
     15, Loop is parallelizable
         Accelerator kernel generated (行番号9-15 ループ：アクセラレータ CUDA kernel を生成する）
          9, !$acc do parallel, vector(16) (行番号9ループは、並列とベクトル用に分割される）
         13, !$acc do seq                  (行番号13ループは、sequetntialに実行される）
             Cached references to size [16x16] block of 'b' （16x16のキャッシュを shared memoryに生成）
             Cached references to size [16x16] block of 'c'
         15, !$acc do parallel, vector(16) (行番号9ループは、並列とベクトル用に分割される）
             Using register for 'a' （a配列は、高速レジスタに割り付けることができた）
             CC 1.0 : 17 registers; 2072 shared, 92 constant, 0 local memory bytes; 33 occupancy
             CC 1.3 : 17 registers; 2072 shared, 92 constant, 0 local memory bytes; 75 occupancy
             CC 2.0 : 22 registers; 2056 shared, 112 constant, 0 local memory bytes; 83 occupancy
	上記の occupancy に関しては、こちらに詳細に説明あり