SlideShare a Scribd company logo
E D D C $ #" $ B 3 A @
          9" 8 ' 7 7 ' 6 5 " 4 3 2 1 $" ' ! 0 #" ) ( ( ' & % # $ $ #" !
                   ¤  ©    ¥¥   ¨   © 
   ©     ¥   © §   ¨ ©   © ¨ § ¤ ¦ ¥ ¤ ¤£ ¢ ¡  
3
                                                                               1 21 0 )      © % $ #
 ¦ © § ( §    ¦ ¨   §  ©  !  ¨    ¨  ¦ © ¨    ' ¨      ¥ % $ #  ¦ © §
 § ©  ©  !   !§   !           ¦ © ¨  §   ¨   ©      ©    ©¨ ¨§ ¦ ¥
                                               ¡ ¤ £¢¡  
3
p3                      G Y F Q  Y E TY t  T y                                                         EF!   X R c W
Rc33                        QTTQTHa GGFF QQ  YY E TTYY X v# cc WW                    ‘
RR#333                      GYFY!G!GY FF QQ  TT GG !! QQ ‘ 3W cciWW
  ##33                  ihg   G H QEPF!IGQH     GGTTFFYY   i Rc WW
                                                                                                     
 Wv33                             G Y TQ Y TGQTFQYTGi‰ v# WW
 ‚W3$                               ! !   G!QT Y H Q X W W                5      3  W
                                                                                   75 ˆ 0 … 0'‡24@6 6'0)82 0' 1 8@76 08‡ @'75†7 4…80„9 ‚             ƒ
33                                                           
                   T QY T H  H TQ  a G i TFQ  T!Y h QTFFTQT!Q!s gd TQQ!QTeFFQTQ xwQ # 3
p€                               Q    a Q QTQ VyFt QF H E Q x w v 3           qH
p               G F Q   GY! Q QGFHGuQGPFQG Qf!GQfY!Q Xt tss  rr  q 3W WW 33
cp              bH Q VF HU  iQhG ga QTQ !F`TUYQPQT!Q UQVTTTQGHFEFTGQ!EEXf We3Fd3 W 3
                                                        F                                                                     Q! Y
R                        TQ VF H Q T  T G U T  ! G U TG  S 3 3 3
CR                                                                  B0A )@ 9  8 'Q7E 6PF6I05'H5 1 43 '2G'F' E0 )D( '3%3 $ 1
 #                                              !      3 
                                                                        ¦ ¤   © ¨ ¡ § ¦ ¤ ¥ ¤ £ ¢ ¡ 
W
 Wv
3v                       QT G HT   QT  Q ! Q! G E   GEG`Q ‘Q EYWF H 3E R W R
3v                                                                             
$3 v  £
                            x IF  GF Q FY E G   V  g 3 3 R
                                                                                                                               £§
                                                       „ 0ˆ7 00  ( 3 9  @7  8 6Q0E‡P@F I) 057H4 …@   $G 60‰5' )3 R C
                                                                                                      5                                                   
    vv                                                                               ¨
                           TQ T  Q! TQ!xIGF E TQ gQh HiE G!F QQ QTgG ! s3Wi# W #
    €Wv                 QTQeHGbTee fIQYF GQHQ eQGTTG`H H QQETPFFIHTHTQQ ‘ Wv 33 ##    

     €€WW ‚                    T !G H Q  TQTT QGE PFFIYE HG TQQ‘ 3 3 #           §                     
                                                                                                                                        ‚P$EQ60g5' )3 #     
                                                                                     
 p WW                                                                                  ¨                       ¨ ¨
                                  3x 3GETQaGFTQGTe IHTQ TQQ eEP3F I3#gv R v
                                                                                                                 ¨
 pp WW                                                                                                          ¨
                                         G H EG G! xQ G Q 3€ ## vv
                                                                                                          ¨                              
  cp WW                                                                                                    ¨
                                        T  xTGE  Q HT EG! p ## vv
                                                                                                      G
                                                                                         ¨                 ¨
      ccWW                                                                                                           ¨
                                       QG  T  e GT QQG  QQ!QGe Rc ## vv
                                                                                                           ¨©
  RcWW                                                                                                   ¨ ¨
                                          GQFQ!!GQ! G GF HT! G v# ## vv
                                                                                      ¨          ¨         ¨
  RR WW                                                                                    ¨           ¨                 ¨
                                         QQGGTT E TQ` FGTaQ FGaQaQe! 3W ## vv
3W
       v#WW                                   T  T!`!T Q`TQ!FGGQYh v# vv
3W                                                                                                                                        
 $‚                                                                                          §                       ¦                       ¥            ¤     £
                                              T$QY $TF605 'T)  B! ˆ@`7‡T!Q@9Q T‘@ 8 03W vv
       W                                                T ! Q                                    ¢
                                                                                                                                                       
       €3                                                                                                                     ¡
                            Q !G EGF y tQ EP F I  H   TQ VTYg!QGGY!YTQ!HGHEQ T Q  F W!FpGyW  W
                                                        
 
   p33                                       T QTTQ!! T TQ  F !F G y 3 p W
                              Q !G EGF g tQ EP F I  H   TQ VTY!GG ! T Q!GETQT FG !F GQy p W
v
        C                                                                                                            ¥         ¥
                                                                                                                      5 † @ ) 057 ˆ5             
                                                                                                                                                
                                                                                                                                                
     € ##                                    Q   T F !   y R
                                   Q V Y  Ye   G T QEYIF H ET G F WTvYX # 
 pp ##                                                                        ¨                                                      
                          Q FI  E   G QT  ! GF  Q YF   G   QEYFGHEQEY3F H vE  v
                                                                                                                                              
                                                                                                                                                
                                                                                                                                                
  ppc ###                                         GTFY   i W
                                                                                          ¥                            ¥          ¥     ¡
                                                                                                 65 6 )Q@ V7  Y f…! Q‡H5 )T 0d 7 @3%      ©
   R#                                                                                                         Q
                                      Q V Y  Ye   G T QEYIF H ET G F WTvYXp # p
   RR ##                                                                      ¨
    #R ##                    Q FI  E   G QT  ! GF  Q YF   G   QEYFGHEQEY3F H vE p v p
                                                                                                               
                                                                                                    §
3#                                                                                                      λ
$                                                                                                      ¦                ¥          ¥     ¡       ¤
                                                 Q V3Y fG…F!YQ‡H5)Ti 7 @3W%pp
                                                                                                                 T 0d
     €v               TQa QFFQa   Q  TQa  F aY  T YF ITT g R c
p€ vv               QQ  Y!Y H  TQa GTF !QaGG !TsQYG HEETQ! T`Q !GFG EHG`!YQX v# cc
                                                                                                                          g
 £
     cc vv                 TY  H HG TQ EQe G f! T Q    G QTY g W c
                          £                               ¢¡                                                           §
                                     ˆ@7‡ @ 9 ‡5) † '  7 ' 6@ 8  8 0 1 2 8 ) 2 ‡5 )1 44)! $605' )3 c          
Rv                                           T F !   y # R
      v#vv                     TG F TY TQ Q  G  QEE yQF H E3Q vxwR v R
Wv vv                             QEQPF I! H    G ! sFTYi v# WW RR
                                                                                                                       X
WW vv                            G Q E YF HE T Q!E PFIg 3W WW RR
#
                                                                                                                                            x IF   
                                                       λ
      @     Q                      S                2 1                                                                                             Q
                                                                   R                 
   !gGQhaGiYTGVFUGQeFEGG`TQQFQb a TQQFFFQQaTQ UT QGEFh TQGQFxU TY!GGaeGY FQFTYQ QQ aTQEQfTYeQFEG YxF H E
                                                                                                                            ©
                                                                                    G IF   GF T  G  TG T xQ T Q E fQ eF G T QF
                                                              
                                                                                                       @
   QGTQFQ EQQQHEPFFI   H HQF xF ITF Y Q UgQFhFi QGF YGse Q E xU QFQFH!G TQQE PGT eT QTQ ih gTY
        YF                                                                         0                                  g a
 UQQTEI!QTETG GQTFTY! QQ TQQEEPfF IHeFGQF TYQQYEYFH TEQF GQ iThE QTQF Q!QEGQHQT GFTEGGh`
                 YY G Q eG T   E Q  T  H  H Q ‘  i h g Q     F TY GF Q  G QT Y H Q                        
                               ¨       Q                                                                  B
  UGIF GFGGiQTEQ H TQQ EIYFQY QYHIHEFQaYGGQQT! F  GdXQ !F QU xdIF  Yg h i GF
                        F                                                                                                      P                 ‘
      G! s GF H Q  TQ EPF I  H TQ  QY ! T  GQTY HQ U T GF!HQQ U TQeGGF HTTTQQHQ
                                                                                                                              0
    TbHGG U QFIGaGQ!TsI GFgQ EQdFFQQG H G!sQ EGQFgPF HGFEQ! THQEEGQf! TaQQY Q QG!sQY!YIF
                                                t
          $    8I       H
 QG` Q   H i h g TQ  Q YG! QGF EQY  YHG G U Y VF H H G   x GaG  TQ y                                                2            1
!    G  F   E !      !    ! 7 ! !   D                         T E  ! G F T  G  Y   Y  Q E QF G    U i h g               
   GF  T QYTG I  G! s GF H GF  T dQ QQ TG!QQF!Y QxTFGaG TTQ!Y hGGFHQ F HQG ‘Y f
                                                      C
          B
    T   QFFQQ V TYYTTFT!QY QQQ EQPFFGIeY HQa TQHG T QTHP EQ! T Q TG !Q GV TTQ QQHa
                                                                            E                                                                    A
                                                                     ¨
   bTfQT Q H E !Y Q  Q E E T Q  G QTY HQ Q G YF G QF I G Ga Q    Q VG EY                    ©                        @
                                     9 ! 87  6                                                           5
       GFQE QQ!GQYHGTQ F GQT QT EHGQ EQQPH!GFQHF UQ EV Q V HF H U QYPxs!`!GQIQ! FQ
 $   !  3  4 3
           2                                              1
   T F H T T!Y GF HQ  TQQF efP!Q f!QTGFtH QQ VTQTfG!F!Q f!QGQ!s GQF HEGQF HT G!QUyQ  VQF HQFEH Q xQT
       0
   TGQH YQTFQF   T TTQ!Q!Y`Y` HTQTQFQQYQF IGIQ!HQFT Q EQI!F HTxQ TQQTFYG a ET QY!GF T!QG`
       ¨                              )                   (
                                                                                                                              ' $  
   GGFT Q YQFTYQfd GF QQ Q FGVHT!TGF! H QHHG‘G! sTQ Y GFHG GTFQQP QEexG GTHQ ! G  T !Y h
                                                                                                                      Q
    %    $  #                                                                          !             ©
     QYTG I Q EQPQF !GGHH E F HTTGQ Q! F T!G G   G ! s GF H GF Q  Q  YG F‘  T
                                                             T
                                                                                                                  ¡ ¤¨ ¢§ ¦ ¥ ¤ £ ¢¡ 
R
                   pt (st+1 |st , at )                     st+1             st
  FQ      ¡                                            TQ          ¨                    Q 
                       at                                                  t                            st
         ¨                                                                                         ¨                              2
                                                                                                      FT G  Q  Y F IG I  H G ‘   G T                     1
                           t+1                                  st+1
                                                    G    ¨
     Q!G QGQYHYV!F HHGGY F QUHihY!gFG FQ  TQGhGYTGFGUTTYHEQQQ TGTYFTQ!G GQQT QEFFQaYVGTTTTGTeTfYQ!!YTH
                                                                                                  A                                                                       S
TbFGIGYIQH!G HQ TQ T  YIT  Q  TT G TG E U T   !G  QF I E QT  Q    Q   ¨                                                         ¡
                                                            ©
                                                    QEPTT!T TQ QG!YTFTQHsEQE QGaV TGGf!!FHTHTG FTTQ! HU  G T 
                                                                                                                                  A = {a1 , . . . , am }
                   ¨
  S                                                                                                                                                   b
                  2        A                       
 Q VG f! TQF IG!F H HG T  !G TQ  QF I EQT Q F QQT Y H QH     $  $  $  $ !              1
                                                                                                   ¨
                           ©                                                   G  !  $  3   $   8
      IQTTTG QG` GQH U !YD TG E U GTU Q VGC f! B Q E YTQ !YYVHFITGIQ!YHaTGQQHT
                       ©
    bITQ Q EEPPTTT TQF Q VG YQaF TGG! FQ QVH GFU  TBH EQ B  T                                                          ©
                                                                                                                          S = {s1 , . . . , sn }
                                                                                                        ¨
                                                                                                                      ! G Q E PT T QF  U !G H
 b EQHF TQ VTTGY TFQQF VGGU QTsYTHQGYs QQF IF IEEQQTTQQ TQ ETPQF I  H Q  T G ! QF T  G hT  
                                    0 7 A @ 3 (3 9 4 8 ( 7 0 5 4 3 (3 0 5 ) 6 ( 1 0 5 4 3 ( 2 ) 1 0 ( ) ( ' %  %  %
                                                                                                             r
              )                         (
                   Q  G  Y E E Q T  Q H E  ! Y  Q     !   ` Q   Q T  G  Y Q    Q    T  G   Q 
                                 p                                                                                     A
                                                                                                                                           ©
                                                                        S             S, A, p, r 
                            QH F                                                                                                                                   
  TYTQGFaYIGTIQGiF IGQEQTTFUQTQQFFIQG!TF!QHYTYHhGHTQTTTQ!$!G gUTQ  QFUIQ EVQTTTGQFF!QFHUQGEFPGET VT ` GT GTTQHFGIhTT!Y H
                                                                         #   !   ¤£             ¦ ¥ ¡ ¤¨ ¢                         ¦
                                                                                                                                         £¤
                                                            ¦  ¡
                       ¤ ¥ ¦£ ¤   ¦© ¦© §  © ¦ ¨ ¦ ¦ ¤ § ¦  ¥ ¦ ¤ ¤
                                                                                                                       £ ¤  ¨© ¢ ¡ ¡  
c
U¡          H                                                               7 ¢  $ !    $   7 ¢  3       $  3 3  %
  D       © Q H  Q  TQ   fQY TEQ ETQfGeHFG TFQ‘TY Q EQ VTT GF! T Q QDE PF I  H Q y
                                            δ ∗ , S → A, Vδ∗ (s) ≥ Vδ (s), ∀s ∈ S, ∀δ ∈ AS
2   W 3  1                                                                                                                                      Qa    
           t Q!Y T  Q H QFG E H Q VF H Q    Q f!Q f! Q GF Q  Q E PF I  H Q ‘         s0
δ                                                          τ
                                                                               @
     G VF H HG Q TQF ITT  H TQ!Q G TQF TQ   FGTQTHG Y FG QY QGQG HE GQF                                             ©
                                                                                                                               t∈H
                                                                                   γ t rt (st , δ(st ), st+1 )]                      Vδ (s0 ) = E[
2   3 3  1
U ihg          δ
                                                                     ¨                                                     Q
                                                                                                                                     t   Q a Q  Q  P   ! Q !
                                                                                                                                          ¨
               0≤γ1                                       V (τ ) = t∈H γ t rt (st , at , st+1 )
                                            ¢                  ¨
               T G  QT VTFH H!Q  Q eQQYa!T!TG aVG i Q  Q  G f! GF Y VF H H d          γ
                                                                                                              5
                                                                    H
              t∈H
F Q Q EY! ` TG H Q eQatQ!YQYQHQbY!QYEHEQET EFT GF F H sQTFT Q   Q GVT ‘! TQ
                  rt (st , at , st+1 )
                                                                                                 G
                                                           τ = s0 , a0 , s1 , . . . , st , at , . . . , t ∈ H V (τ ) =
                                      τ
                              @                                                           C
        t  Q !Q G Q   T QYTFGY t Y e Q  Q H QT Q H E  !Y Q       G ‘
                                                                                         s                                                          t
        s                                                              a
¨                                                 0                                                                   A
rt (s, a, s )                  rt S × A × S →                                                                                  t
                                                                      !  8 3  
          GY F T G  QY !Q Q YY G  !G F QGVYTFF TQ Y f!Q H IQYTGQGH EQ !Y GGFT TQF
                                        ¨@
    sY    UX!Y  Y  tT G Q  QFP   E ! T`F HQ  Q U QiHhgY Q V GT f!G h  H
                                                                                                                                     ¦
                                                                                                                                79 ) 3 ( 8 4
                                                     ©
  7 A @ 3 (3 9 4 8 1 6 A 7 9 ) 7 5 4 3 ( 2 5 4 1 7 6 (3 6 2 1 7 0 5 7 8 4 2  %  %¨          §                                    ¦          ¥¤            £
                   t
 G ! GT  F Q  TG H  Q H                                                                       $  $ !                T Q Q V  F  H Q      ¡
  7 ¢  $ 8                 !        %¡                      QY YFQQ H HQFFQ VT F                ¨
                                            δ : S×H → A
              ¨                                                                                             ¡
                                                                                          G T!Q G`YQ Q VGQf P!!G!GQQ!  GTT QT
                       ©                                                                          )                    (                                               ¨
Q VG f!  G! TTG
  GQUaQQE PiT hTg  QFQITT HTYGQYVQVGGaf! T QfHHGQeFGGEG H HQF T G !TG QQQaGTQaG T                              B
                                                                                                                 S                                      C
                                                                                                              H⊆
                                                                                                       B                                                 $
                                                       t
    $!                                                                                                                                                 S
 FGQUYYreTQfQYTTFQQTHTTHQTG!TQT!HQQTHF TUQTFQQU!PsHEGTGQTHQHGrYTGTfHQFQG Q H Y QFQsIETQQTFFQQ‘sGQ   Q H
       t
                                s0 , a0 , s1 , . . . , st−1 , at−1 
  bG H QGQP aE GTG H  Q  Q HY  Qa Q H  T G  Q  TY F I G I  H T Q ‘   GaG      @
pt (st+1 |st , at )
                                                                                 G F  E
                                 YF IG I H GF  G V U Q!Q GTQ GQF QVTQGf!GTQTH YTTQ! THQ
p
                                                                                                         s ∈S
                            p(s |s, δ(s)) · (r(s, δ(s), s ) + γ · Vδn−1 (s ))∀s.                                Vδn (s) =
     2   c 3   1
                             Vδ0 (s) = 0∀s,
                                              G  ! ! 7 !    $  3  4  8 8           ©
                                             ©                                                           C
       G H  U Q xQF H ET Q Ht  Q  Q   fY E Q  G H FQHTY QQ ` G QYH QQEEPfTT eQFyG                  ©
                                                                                                             s ∈S
                                 p(s |s, δ(s)) · (r(s, δ(s), s ) + γ · Vδ (s )), ∀s.                                Vδ (s) =
     2 R 3     1
                                                                                                    ©
                                                                   t T  G VY  Q E P T T QF Q sYa Q T H E Q
                                        s        δ                                         Vδ (s)
      2
                                                               1                                 ¨
     U TQQGGQHGYT TQ ETPQF IQH TQQ VFH H GF sQ  QrFGa fU  QQTVT GHQ  EVT Q‘H  
                                                                                        7 A @3 (39 4 8 ) 9 7            ©
                    ¥                                     ©                   ¥
      5 43 ( ) 6 ( ( 7 6 A 79 ) )9 7 5 43 ( ) 6 (  3 5  53 5 4 3 6 4    %                                           £ £
                      VN (s) = 0, ∀s.
                       ∗
     2 # 3     1
                                                                                  s ∈S
                                                                                           a∈A
                      pt (s |s, a) · (rt (s, a, s ) + γ · Vt+1 (s ))
                                                            ∗
                                                                                           = max        Vt∗ (s)
                                                                                  s ∈S
                      pt (s |s, a) · (rt (s, a, s ) + γ · Vt+1 (s ))
                                                            ∗
                                                                                           δ ∗ (s, t) = argmaxa∈A
                                                                                   δ∗
                                                                          C                                                    ¡
                                                               s, t                                                          Vδ,t (s)
                                                                                                         C
     U sQ GEF QQaGGYGQHYFQ!FG!Q EQQaEGQFGYeY Q  QH  H YFQFG!FEG ! QH QTVtGF HQTHQQE E !
                                                       
                Vδ,N (s) = 0, ∀s ∈ S.
     2   v 3   1
                                                                                                               s ∈S
                pt (s |s, δ(s)) · (rt (s, δ(s), s ) + γ · Vδ,t+1 (s )), t  N, s ∈ S,                                   Vδ,t (s) =
                                                                      t             s                               δ
                                                 ©                                     ¨                     t
                          Vδ,t                                                H = {0, . . . , N}
                                   F
  QGa QFTGTaGFG VYQF Q!EGP!T TQ H GQ!Ues TQG T  F G Y  $TQG ! QQF VTGFhH GF
                           ©                         §
          5 43 (2 A 53 6 ) 8 7 6 3 6 6 ) 7 2 6 7 2 7  3 5  5 4 3 6 4  %  % ¤                                               £
 © ¨ ¥#             ¥ ¡ ¤¨ ¢ ¦ ¤                £       ¥       ¦ ¨
                                  ¥ § # ¥ # ¦ ¥ ¥   ¥ #  ¤ £  ¢ ¡           §                    ¢¨ £ ¤
                                                                                                                     B
                                                   7            $  $ #          7 ¢  $   D        $  $ #
  Q E EG ! T F H TQF   TQGa  T  !QT GF T G  TQ a !Y  T QF T   TYTF
 
n                                                                                                                                                n=1
            Q VTQF VQF QHFGGaF GQF QGYGY QEQfEfeFGe FFGQ Fa QaQQ U  s  F TQQaVTQ‘
                                                                                           )                                                  (
                                                                              B  7   G        $  $ #
t TGQQEe fGf! eFGQ xV QQTEQ!QFGQeaY TQ  Q H  U TQ HG Y  Q I E Q QP E G  G H QF                              7 ¢ $ 8    
   $  $ #                                                                 ¤
                                                                                          '  3  7 ¢  $    8        $    $ #
               TQ E f  eFG TQF Q V Q!G! Q T F H Q I T Q U   G F GaY  QT G f H GF Q 
                                                                                n
                                                               2         1
                                                                                                                    7 ¢  $ 8      $
 QTTEEGUY3eFG F QUQI EVG Hxw f!QHI  T!QQHaGGYU   Y EF Q I E     G Y H  Q
          Gf
     $ #                                                     '  3  7 ¢  $    8        $    $ #
                                                                 2                               ©                              1          ¢
                    QcE fQaTTeQ!FG! F TQ FYGEEG xTHHGG GVEYYf!QTEQPF TGTTF Q Q E f  eFG ‘
                                                                 2                                                           ¨                   1
                                                                                                                                F F T Y QT Q  !
                                                                                                                                             δ       δ
                                                             G
                                        7 ¢  $   8        $  $ #                                                          C
    QTTQQI EYFGGeYYQFH TQTPQVGf! TQGFEYUYeGQ QeFYQEG Q! EQQETGffHeFGeGFFGF QQTyQH HGGQ T QTQPVG!YFQ ‘H
                                                                                     a f
                                                                                                                              s ∈S
                                                                                                                                        a∈A
                                         p(s |s, a) · (r(s, a, s ) + γ · Vδ (s )), ∀s.                                                 δ (s) = max
2       1
        € 3
                                                                                                           Vδ (s) ≥ Vδ (s), ∀s
                                                                                                         2                                 1 )                    (
 δ                                             δ
             Q VF  H Q  Q Q VF  H GF Q E `T Gt                                                 $       3 £       QT G fQH GQ‘FFQcE 3
                                                                            δ
                                                                                                                                               $  7   G £ 
                                                                                       $       3 £ 
       QTG fRH3 GT‘Q E QfG  eFG! TQQ VF FHGG aF Q  QG ! Q V F QH GF Q F GaY TQT G f H Q      $  7   G £ 
                                                                                            7 ¢  $   8        $  $ #
                                                                                                              ¢                                                        
   Q! GHcQ3FGGEF YfQ!TQTT Q! EFQUFGeQYEQYTH!TYHT T F g  QF2G E5‡5H7 0 †Q @V7F8 H6Q0QE5 ‡f@)Q4F‡eF!GFG‘!
                                                                                                               s ∈S
                  p(s |s, a) · (r(s, δ(s, a, s ) + γ · V ∗ (s ))∀s.                                                     δ(s) = argmaxa∈A
2  1       3
                                      B                                                                                                          C
                                                             ¡
                       Q V T     QFGa GF Q F  GY  Q E f  eF G F   H   G  T Q P!
                                                                                                                                                 n
      QQ  QQFI E QT QQG H QGTFQ!QGTE xGQEG ET H!GQ TVQFFFQ HV Q  QGE ` p 3  QTG xQVYFF
                                                                                                                                H        ¨
                                                                                                                           s ∈S
                                                                                                                                     a∈A
                               p(s |s, a) · (r(s, a, s ) + γ · Vδn−1 (s )), ∀s.                                                     Vδn (s) = max
2       1
        p 3                    Vδ0 (s) = 0∀s,
                                                                                    G             7   G        $  $ #
`GY G EY f!T  Q EQ ` TP Qt HQTFGE TH  Q V F  H Q   QF !QFE!f eHF Gc‘3                                                               
 n                                                                                                                  n → ∞ Vδn → Vδ
 Q QY  I  QQ Q Q! Q eQa ! Q  QTTQ a !QaG) 2 7 @B @7 U 8 6 05 ‡ @Q) 4V‡T  ‘
€
                                                                              ¨                                 )                                                (
                          nt
bQ!TY!HQQU TQUQFITGTQGFa QQETPFY VE! Q GQaQHT EQ!U QTQa! !GGF Q QGIYE   Q! QaQG‘
                                                                                                                               yt+1 = yt + ayt .
                                                                                                                                ˙      ˙
2  3 3   1
                                                                                                                             xt+1 = xt + axt ,
                                                                                                                              ˙      ˙
                                                                                                                         yt+1 = yt + yt + ayt ,
                                                                                                                                      ˙
                                                                                                                        xt+1 = xt + xt + axt ,
                                                                                                                                     ˙
                                                                 T                        t Q    a G F Q   Q           (0, 0)
                                                                                                                        E Qa  E
                      p                                                                                                           (axt , ayt )
  GQFF TQQ!QU a YeFTIQGIGa H T!QTaGQG UVQTY EQT‘GQT EQTIG T QTQ  V Q  QGEGEEE G!F
 1−p
                                                                                    2
                                                                                                                                   !
                                                                                                                                                                              p
                                                   ¨1                               ¨
QU EPF I YHFIGIQHT QG! !QQaG U! a hGF QQF HTEEQTxQGG HTGQH  TaQ GF QQeGE EG!F HGGF U V GY
 (axt , ayt ) ∈ {−1, 0, 1} × {−1, 0, 1}
bF IG I  H Q GQ! Q  !QaG V YT  H HYGYGYFFY!U!GGYFG  Q H  Q     g
                                                                ¨                                                   2
                                                                                             Q  ! Q a   T  f! Q  QF I T
                                                            1                                                                  ¨
UbTGHF aTQQ F THG T!T QQ VGGHf! QTTUQQaEYTQ!!YQaH QTF FQgsE QGYQFYT!T!G ! TQF I  QH` TQ 
                                   (xt , yt )
                                    ˙ ˙                                                                                 (xt , yt )
                               2                                                1                                   2                                                     1
                                                                                                        st                t
 bTTH!GGTTQ‘G H YQTY HTQQY TQ Q ! aQTGTFQQ a GT QG Y F U tG TTQY Q VGf!! d 
                     TQ  a Q  QT ! Q  QF H EQ xQ F Q   !! Q ‘ t 3 3 Q e D
                                                        2                ¨                                                                  ¨
                                          1
  G HY  Q  Q  eF GF  !Q! FQ  QYQaQTGYHQQ e3FRGQF U Qefs! GG‘e  T G!I ! Q QaY TTQQT                                                 @
                                                                                                       @
bTTQVFQU QFFQT V GaF U TQQTQaQTYFFG!iGQ TVFQQGHFGTH!EYQhT TQQFFTTQQQ!`Qg TQ eQTGTGQF!EQFQQFFFHQQETQ IxFQGFf QTg QQT
                                                            £ ¦ ¢¨ ¤                    ¥
                                                            # ¥ # # ¥ ¤ £ #   # ¢ ¡                £¦¤
3
                                                                                                       0  £ ¨ £    © % ¤   £  ) ¨  ¤% ©¨¨ ¦ ¥£ ©¨   ( 
                      '   ¨    ¨ £ ©  ¥  ¨ £ ¦  ¥ ¨  ¥ £ ©  ¥  #  ¤  !    ¦ £ ©  ¥ % ¦$            ¥ © ¨   !    ! #   ¥ ¨      ¤ ¥   § ¦ § ©  
                      £ ¦ £©           !       ¨ £ ¦  ¥ ¦ ¥ ¤ £  ¥£      ¨ ¥  © ¥ ¥¨     £  ¨ £ ¦  ¥ £ ¦ §  ©¨ § ¦ ¥ ¦ ¥ ¤ £ ¢ ¡
                                                                                                                                                                Nacc
                                                             ©
          TG H QQ EQ H Q  TQ VTTGF! TQ E f  eFG TQFT Q VT H T Q QG T F T P   T
                                                                                             C
         TQQGVVYTiTQGFhFF!gEQQeVGE!aGQQFThGFHQG!EHEEQG!e gQQHGIFQQihQga QQE‘F TQQ‘ QT3YH GQa T   QQa VT TF
                                            T Y
                                                                                                                           QTQa !Q GFQ E PVF IFHHQG‘F Q 
                                                                                                                                                          Q
                                                                                                 B
         bF H QQFGa QGFTQxQ FVGTYFUT TQEEfGY eFG TsQFT rH Tf Q YQTQF s T QQFFGGaQ QQPV!
 t=1..∞ rt (st , at , st+1 )                   B
U                                                                                      2                        ¨                1  ! 3    3 6
         QFQQ VVTTFFQGEQYYa!QP`GTG!HQQFeTFQQeGFQQaT fE!!xGGQE` TQVHTYTTQGFF! TQTEHfEQQeFF GQPTGQF!FQGTQY‘YHYQe
                                            
                                                                                                                                                                                       α
           Q H ! GF GaG Qa  QT  V Q EQ!GF HY   Q! Qa  QYaGH QH eGFF GTFQ Q 
                                                                                                                                    α · ∆T            =       rt (st , at , st+1 )
                                  QYaG  Q eF GF Q H ! Q !Q G GF T                               @
                                         Nacc                                                                                       T∞                =       rt (st , at , st+1 )
           U T  ` Q E P G F   H  !   ! QF Q H  ! Q    ! Q G   G F  T                                      @
                                                                                                                                    Tacc              =       rt (st , at , st+1 )
                                                             U  !  ! QF Q H  ! Q    ! Q G   G F  T        @
                                                                                                                                    ∆T                =       rt (st , at , st+1 )
  U QYaG  Q  eF GF    !! QF   Q H ! Q  Q !Q G GF T                                            @
                                                                                                                              rt (st , at , st+1 )
                                 @                                    ¨
                                                                                                                                                                                          ‘
                                                                                                                     ©                              ©
         `!Q I  Q! QTFY   E GaQTt U TGQTHQQHEsY!YTQQ QF P   E  Q QT HQEHE! Q!YGda
                                                                                                           ¨                                                           @
        bQQGQHHTYG TQ!FQHQQQeF EQF YPGaFFIGHTQQVeQFPF !GFFQEQVQFFFGUQETPHTQTQQQQVIG EQ GGTHT Q!GQF`FIQ!TQT IHU‘TQE
                                                                                                                             Nacc
                                           
           TQ !!G QGIIETIG QFGTY   QYaQGG Q QeaF GGFF U f!  GQY` x s QQ EFaQ GF QQTTVGTHY‘    ¨         
                                                                                                                                                  nt+1 = nt + 1.
                                                                                                                                                       yt+1 = 0,
                                                                                                                                                       ˙
                                                                                                                                                       xt+1 = 0,
                                                                                                                                                       ˙
                                                                                                                                                      yt+1 = yt ,
                                                                                                                                                      xt+1 = xt ,
                                              nt
                                                                                              t Q Y T  F I  E E  T Q Q    a G F  Q Y   Q E
                                                                                                                    (xt , yt )
                                                                                                                     ˙ ˙                                                    (xt , yt )
                                                                                                        ¨                0
                      QbY!e  TQ  QU!Q a!QF!Y  QPGT`  GF Q H T!U Q Q  wTQQY a GF !Q Q T QFQF Q QaY
33
                    G2                                   Q                      ¨          G   1
                                     ¤
          TQEQYF! T  FF QETGQ VTFi hVgQ TQFFUQQ EQFQGFFYGYQeTGFge TTPQxQQF HET QETPF IF HHH TQ!F                  !
                                                                                                                                                                          •
                                     !   $ 4                                                                                                          ©
           bbbFGGQQ IIUTQQEEQPFFFIQ HIGTQfTQTTGF!YYQTEQ HTQQGQYQTTQQeQGEeQGHGFTQQFVTQY HVQQGYQ!sEQTFGPFTfHFHHQHTfYT‘!
                                                                             Y                           
                                                                    )                         (
             TQ  Q TQ! QY`Y H TQ  TQaGFG V T   TQGF IFGa YHTT QT QFT TQQT!UGTQTEGQFG eY!                                               
                                                                                 0
           bT! `G g   G Q EY H xQ  GF ET G H U Q E Q! Q   V QF ITT Q! 2                                                 1
                                                                                                                                                                          •
                                                                                2                                                   0 1
               G QTQG `GQHFP Q! EGTQT!GT`!G HQUQ QQQwY!YTQHT GQFH QE!QYUQTY T QGTPfQFHP fE                     ©                ‘
                                                                                                                                                                          •
                                           ¨
            b Q VG f! Q    E  GY F Q  QPF H E! YF IGaQT I   QT P f HfG‘T                                                            ©
         U T G  EF TQ!  EG g  GQ!  F T G   G! s GF H Q  T Q E PF I  H T Q  tTGHFH!
                                                                                               ¤
                                                                                                           B
          TGF QQGETYFQ QQIQTEFY EG Q! H UTGT  ETGY QTQY Q GQFT QQFPP QE T QG! QTFQFQ !QsYfd
            Q! Q EeQFeFQGFrQTQTGGTQQT! T FQTaGGiTGFQ!s GTF H!YGhF T THTQQ!FPg ETQQEQEG!! YTQ‘H E                      
                                                    ¨§ ¨¢£
                                  # # ¢ ¢ # # £  # # ¥ # § ¥                  §¡               ¨      ¢¡  ¡                               ¤       ¤£
¥¡      ¨ ¤ £                                  ¡ ¡ ¤¨ ¨ §
     # ¥ ¡   ¥ # ¥ § © ¥ ¥ ¥ # ¨ ¥ # ¥ ¥ # ¢ ¡                               ¦               § ¤£                 ¥        ¡ ¤¨ ¡ ¢
                                                                                       !  7 $ 7  $ ! !    $  $   !  8  !         ! 8 3  $
                    7 ¢  3       $  3 3   %  D  
                               D                                                        )                           (
                                                                                t  QFFG Q  G e Q  i h g Q  Q HQ Q ! Q  T     ©
                                                                                             ©
           QbYFFQQG HYGFQ IEGaQHQT ITQf !  HHG GTFQ HQ  xQHT!TQG!FY G aT  UYTih gT PTQHF dT G 
             TQ VFQ V Q  GFQ  G QF IG  TG T H EQ  Q QFG E HT GQYV TF QHFFQE QQaT Q GrQ
W3
                         ©
QQPG QE QTQ UH  UxQGQGaaTQGPFQ!HQQGHTYF QY HTHTTEQ T GG bGQ Q YGF UFQIF GGIYYHe QTF $F H
                                                                     QYaG¤QeGGHTY aQQTQeF GFHQT e GUQTEFQTWdb
                                                                                                    Q TQHbTTH fGF QQ e eGG TTFFTT 3 bb
                             ×
                         B
 bYFY TQF    i Q!G E Q  G H IGFG i T T YQTY HQ TQ t ! !T TQ‘ Q E
                                                       ¢¨ ¦ § £¨ § ¦ ¥ ¡ ¤¨ ¢ ¢ ¡                     # ¥ § # £ ¡ ¡    £
 T Q T  H Y  Y    V    G TF Y   E Q  T   T ! Y 
                                ¨                             C
xQGTFQY QE!TGF Q EPQFIIrHQTTG QQEEHQ!T QQFYIE! GQF QTQ E!QFG !F GQ` QQF HHEQx QV‘T H
                                                                       TTQF ! Y  Q HG f! Q y  T  T Q E 
                                                                                                ¡ ¤¨ ¢ § ¦ ¥ ¤ £ ¢¡       ¡
                ¦ ¤    ¦ ¥ ¦ ¤ ¥  ¦© ¨ ¡ ¦©£  ¥ ¦
     ¤£© ¢ ¦ § ¦ ¨ ¨ ¡ ¤ ¦  ¨ ¦ § ¡£ ¤ ¥ ¤£ ¢ § ¤ ¢ ¡
                                                                                                                  ¤  ¨© ¢ ¡ ¡  
v3
                                                                                                                         ×
         ×             ×             ×
 Q R R U R W R W U 3 3 t TQ aY H YY    ! ! Q  T QFF GT QTTG !QT3F g 3
                                                                                                            T
   3 G H ! GF I     QF Gx QTGYEHQ` !GTGQeTGQEP !QGGQ!!I GTQQFGiQQEEQQ!TGTFeHQEH QEX bb
                                                                                                                          w b
  !  ! QF  Q !                                                                                 ©
                        tQGF IGaTQTQP` QGF E$ G! GF I Q    HG E  I Q e G E Q      G Y y b
                                                                                                ×
                                                                  2                                                  1
bbHGHQETGTTQFQFG TQTQVGHHTQU TEQ!PFIGE TTQQ U TGHQTEYFQYTYH3Q¡ 3 GY3 TQ T!FH! TTQQ‘ G 
                                                           HF Q  Y Y!  HY G   U QFF G H   g  QTT GG H
                                                                     ¥#§   ¡¡¤¥                 ¥       ¨ ¨
                                                                                          ¥ # # ¥      ¡
                                                                      ¡
                                             R x  R  !  !  t 3 W Q  e D
#3
             2£         ¡   1
                                                                                               ! G  Q F I G   G a Q F Q T
                                                                                                                  2£       ¡       £ ¡1
                                                               ¨
QG Q dU d !G Q  Q G Y  QF IGGa QF QT Q   Q uU uU U                                                                     ¨
     !Y   G E ` QE  Q E TY QaG !     G` T   F  QT E xG E
                                                  ¨                                               ¨
bQ fEQf`! GF TGVhQTQQTH E!YE Q GQf!!Q f!` Q VTQQ y GUi h gG TYQ  QFFQ TTGGF
                                                                                        F
                            × ×
         ¢
                                                                × ×
 Q  T ! TQ  d ‰ ‰t y Q!G E Q    Q V T  G U T   ! G T Q  QF I! E QT  Q F d
                                ¨
  gQ QTGQYY TQ QGF IF EQTQQaF QTQFQ‰ T $ idh g‰ Q ‰tQgE!PQF IaG H  T G  QGF QE`G E‘Q 
                                                                                                                          G
        ©¨                 ¡¦ £      #   !                    ¤£         ¦ ¥ ¡ ¤¨ ¢   ¥ §   ¡    ¨       ¥¤               ¦
                                                                                                                  ¥                    £
       ¥                    ¡
  Q 3  U 3 b ¡ d T  !G TQ  T  TG  I E! TQF T Q   !  3  T TQU 3F Ib¡TT dH
                                                      ¨
                                             ¡                                                                        2£       ¡   1
T  Q H!G€F QTQ ‘V QPGTT!Q VG f !Q Ya GFQQ QGGYTF Y!H!E ! QQ!VQGafQ!F  Q dF U aYdQQG`
                                                                                               G
                                                      C
                                                                                           ¨
 b FaYU  FGQHFGT¤QYQTFYYFY!!EG tQT YQa Q HTGT! G TQ y TQFIGTFTaHQT H !G! TQ ‘ Q 
                                                 ¡ ¤¨ ¢§          #        ¡ ¦  ¥ ¡ ¤ ¨ ¢                ¨
                                                                                                   ¥ §   ¡    ¥¤               ¤
                                                                                                          £
                                                                                                      Q Q T T Q  a G F u b     £
                                                                                                      ¢¡                           ¡
                                                                   ¢
                                                                 TQY      TQ  Q xG F  FQQT QTTQTa HGFGF ubb         £
                                                                       ¢                                                               ¡
                                                        t TQGaTQTTTT!QTFIIGGTQGa QQx GG F V TFQQFT GH YTHQT YGF H Qb
                                                                                                              C
                    ¨               ©
Q GT !! G QE HPHTGT GH QGF Y!‘fYa !!G YG F GHH HY GE TY Q  !     Q H Y   
                                                                                                      ¨
 QQTTQYT QG ` VQ GI EQF T`GF UTQTV!YYT T!Q GgQTFEEH E TQHfEQQf!   QU QF I!E!
                                                                                         G  G H QF !!f Ya  G Y F TQ
                                                                                                  C
                                                                                                              ©
bG` GFQTU i h!gQ TQQFF HT EGQxQFGFTQGEhG  `TQIHQG! !  QT!Q QQEPTQ T Q G e GQ IY ‘!  
                                                          ¢ ¢ § ¡ ¦  ¥ ¡ ¤ ¨ ¢
                                                                                                         ¨
                                                                                                   ¥  §    ¡  ¥¤
R3
                                                                                                              P¨
                                                                                                          F   i Q !   G E GF Q  T   T  Q E 
           Q
                                                     ¨    £             ¡                                                                                                             B
                                                                                                                                       ¨
   xTQQFG  QF!IGG a VQ Q E  EQ  QTF IQFITGQaGa xTQ QTQGF EY  Q`ET GG! G‘ TaGT TH Q 
                                                                     !                       P¨
                                                                                                                                T
buY!QTQ!uQ!aT QF!FTGQF aTTQTEHUQQ`ETYFYGTETFQGF TQQ!TiQQ!TQF!G xEQQF  Q EQFG!TgQa Q G!QYaGQ!F
       Q                                                                                                                                                                     B
                                                                                                                                       ¨
                                                                                                                                   G F Q   ! Y T  FF G T 
                  £           ¡                                                                      B
     Q  Q Q Q E TY  a  H T  FFG T YYHFH QiQ!Q  QQ!YFe IQFQI!GGGaEQFQ QT             P¨
¨
 QY!EQQQTaQ! !G!Y ‘ TQ!QGE GT‘QF H Q!!TGQE GF T T QQFTI HGbTQTfY HTQG TYGTHQFTQQ V
                                2£      ¡1
                                                                            
           ¨
    QQ UTYTQ aGQ  U V Q!TQUFTHYF!ITTQT HWT!G HQYTQQFQ eQFT  HQGFQ TTH TQG YGTHQYFQ Q V
                                                                                    ¡                                                      2£      ¡1
  TQGeEF UTQYGYETQQF QQEG eF!G EGG Y Q H Q E QFGeHYTQQT!xQ FF QQ T HU GF QF HT !Q  Q!T HG
                                         T                                                                  2£        ¡1
   bbGTE fQ UQ!GQHY Q QeFQ QeQFtFQ!QQTYTHQ!QT TG !xv GU UQ  QQFaHQ ! QQVG f!TQF IGgG aQ!TQF  £            ¡                 
                                                                                                                                                            C
                                                                                                                                   £
GU ‘Q QVTYTHGF! GTgQiQ!aGGF EQGTH HU GaF GF QQU QTYYH QQT Y HQQ TQTQQFEI GE GbQaFFTQQ ‘QT H
                                                             Q                                                                                 ¡
                                                                                          5 4 3 ( 3 0 4 8 ) 9 7 A 0 £            © ¥¦                    ¥¤                         £
                                                                                                                                                                              B
  TQQF!FGT TGU QU TQVTG H QTtQTTHQHYEaQQ WQQT QT!QGFHITGGQ!sGaFTHQTFEQIFGTTQQGaQT!QFUQGQ HEGYTYTFTGYHYFTEG QQTYP ET QH!
                                                                                                                                                                 F            2£
¡         £ ¡1
          u Q E TY Q  Q EPF I  H G QTTQY T    QFGIGQGaG QEF TQTQFFG T Q u                                                                           B
                                                                                                                           ¥            ©
                                                                                                                     ( ) ( ¢ 9 7 0 ) 2 7 ¡                              £           £
                                                                                                            →                                  →                        →
                                                                                                                  2        1   ¢
                                                                                                             € 3U 3  # 3 bU  v 3U 3 b ¢       2            1   ¢       2          1
    →                        →                                                                                                     →           ×
¢         2          1   ¢         2            1                                                                                          £           ¡
        £                ¡
     QWQ dU3sbQY  3Qd Q3QEUbT3bTYt!QGG aQ QFTIQQEFQaTTYQ QQTQP  fG!EQQQ  ‘UTHdE Q TQQdQEF IQG HdGaQ QTFGQTh!Q`
                                                                                                                                    
                                                                                                          ¥ ¥
                                                                                       5 4 3 ( ) 6 9 2 2 )¢ 9 7 0 ) 2 7 ¡ %           ©                                             £
c3
                                                     ¨
                                                         £    ¡                                     ¡
  TQ UQT  QHYFGFI Q!HaGET Q FQ!Q Qu VUuQ QQEGQH dT GT QaQU QTY sTYaa THQ
                                                                                 V X 2 + V Y 2 ≤ V max2
                                        ×
  TQF   ¢ xG Eut xG Eub¡ ¢ xG Eut xG Eub¡ T  T QE GF QQ GF T 3  T T Q EYFY    ¨
                               B                                                             u i Q !G E Q 
                                                                                 £          ¡
  b!! TT tQQHGTF E T T xGTTEQ!uQHFGE xTGEaQTTTQT a Q U uG QQ uaQGEF QT YV T gY T
                                                              
                                                                                        © ¥¦
                                                                 7 0 0 7 ( 3 ) 9 7 A 0                 ¥¤                 £
                               Q F I G   G a Q   Q Q     ! Y Y  G ‘ t W W Q  e  D
                                           V
                                                                                              M_BOOL
                                            .
Position_Index                              .
                                            1
                                            .                                                                                     .
          .                                                                                                                       .
          .                                 .
                                            .                                                                                     .
          .
                                            1                                                                                     1
          27
          14                                .                                                                     1
          5                                 .                                                                     0
          4                                 .
                                            1                                                                     0
                                            1                                                                     0 1 0 0 ....
                                            0
                                            0
                                            0
p3
 U QY  EQ QT ! G Y F QY aQ          ¨      ©
                                                                                             G T  F Y   E Q  x  f ! Q F   F Q T
   ¨                                                                T U YFG Y H Q  ! QaG  G HY  Q  Q  eF GF
                 0
    Q QY U QQEGQ QtT GQFQGTaQFQFQ VG! U $Q  QQEHEE! YQHY U QTTH! GFTQQ  QQTHbTTQfGaYG F‘ T `
                               @        ¨
     x Q  TQF Q  G QT QHQT G`!FGFTQGEUsGQYQTQFHIbGTGfa tQTQF ITQT THYTTGY GTQTG GY
                                                                                     B
                     @                                                                              ©        @        ¨
  TQFQGQFEI TYQ QQEVE!!T TTQG`b FG G aT!aGG F TT  f! TQF IGTGT HQ T GGYYTQF  QF IGEQYTFQQF
               G                                                            2       @1     ¨                       2 @ 1
                                                                           × ×
    QTTG HQ!QGYEFGIFGITQ HiGhF g TQQQFEFQQT GdU G‰U ¤ ‰gt g  THTGQQ! GQU!UGE QGE‘YFY F
                                    ¡ ¤¨ ¢¨ ¡ £ ¢¥                  ¥          §¨ £¢
                                                                  # #    ¨ £ #  
£!     ¤£        ¦¥                ¦ ¨¢ ¨£ ¢§ £ §
                          ¥# ¦ ¥ §   ¥#                                       §¨ £¢                    ¥ ¦§
                                                                                            ¥ #    ¤ ¢ ¡
       ¡
              ×
                           ¢
                                                                    × ×
       ‰ ‰t y  ! Q  Q!G E Gd QQdTG H‰  ‰tQgHYQTyG QV Q!HGEF GTF FHQF G!F GQa!
                                                          F                                                            
 U F!FGG`f!!QF IGGaGFa Qi hgG HTQTF YQHTYQFHFQQ T TGF!EF`QGFGQY FVQF HVH GTGQa GHiT  
                                                                                        G
                                                                                                                          ¨
                ¡                                                                              ¨
   b  HTQ! QTTQ a GF Q  T  H GF Qa Q U G Y     G H U Q E TQFGGeY
                                                                                                ¢
  Q TQHF QQ! QTYGTY U xQQTTQFa!¤TTQHGYTG QFIIGEG!aGGF F QFIGTT EHTGQQTT!QUQaY Q  GY
                                                                                                                                    ¨
   bQGVaG fx! QGPTHHG! GHQFTIGTTYE QG!GHTQQTH Q Y GYQ  VTGf!aG T H t UQYEE TTYY TwQF I G
                                                                ¥        © ¥¦              ¥
                                                        ( ) ( ¢ 9 7 A 0 6  5 4 3 0 A 9 2 5 4 ¡                                            £
                                    Q
   FG Q I E   QF  G  !   F $  Q TQ E GF T G  QF ITQa TQTQTEQ QFaG eQY xTQQ !Qy
   etat = (position index) ∗ (nombre d index vitesse) + vitesse index
              ¨                                   ¨             ¨ ¨                                     ¨
                                                                                                                      ¨                 B
                                                                                                                                         ¨
    Q Q E TY  G` T   F V TQ! QTTQHF ITGGFaFG xT Q !U QQaGG`! Q !  Fga QTF QT Q 
                                                            C
    Q  T  T Q E  TQF Q VTQFHIUTQQEaE QTQh QTTGQE aQ`TxGQ  GF QU TF IQ GGa!Q T QuaiG ¨
 3
  G Y F  T U Q EQ G YFG QY  EQY  G HY  Q  Q  eF GF Q  QT G ! Q  QTTQH bTU f                                                          2£      ¡1
       2          £ ¡1
¨
    $ F $U U QUF !GGYH TG!QFT TTGQ h  QQTETQP!F I! T HQFU QT HaGbT fYFGIGYI FTHGUH Qa QF Ga QGTF
      TQTEQ!!TQT gQ QF !FGG!Q‘HTQGT!FYQ EYQFYP F EQQQH GVFTQG QQY P GeEQ QGQEF E Y! QT
             T             2        1                      ¨
                                                                                   E                                       0
                                                                                                                                              
   QQVEQGT GHUHUT Q G!GY FF Q   HQTTQTQ!!! TGFQQF! Qt YF !TFYG! Q QUF G`Q GT GF QH! T G  ` Q ! G F                       ¡
                                                                                                                                                     ¨
                                                                                                                                   sY  T QP E GG H
 TQ  H FQGTTQ!GaTQGH U HFG TUTFYHEQE QQEPPExQQH GF T TGhG h Q EGPFIYFQH VT QGT  HQE Q                                          F
                                                                                                            ¨
                                                                         2       1            @
GQ E YFY!FGUTF QQFV !YFGHIGTIG! TH GfF U HGUb3 Q QFGa QGTFTQ!!T E QF TYQgEQQY GT `QHT Q !
                                                                                                                   T                                                    ¡
  Q EQFG eY TQ  QTTQ!! T QF U QY 3EQQYQTF IGI!HG QYF T !QGaG TQQY  E F Q$QTTG !Q!F
                                                                                     ¨
  TGGYh QtT !HTGQFQ! GsFQ!GY    QT HbT  f G Y  U QT H GF  T YT  G                 2£          ¡          £ ¡1
                                                               ¡  G Y FQ V Q sYa  Q u u Q  T QF Ga
                                                                                                          0
  TTQQFFQa IGFTQaFYTFFQGt QVF T! FQGE!EQE!QaGY`GHQUTQYEGTEYY!QQGQ`TFT QQQTTTGQ!!GT!TYGQFYF! !FQG!VF GTQ!T QQ‘HH! QaT
                                                                                          
                                                                                                                                   ©
                                                                                        0 6 A 7 0 0 7 2 2 A 0 0 7 9 A 2 9 ) ¡ %                                               £
                                                                                                                                                                          Q
GF Q    I QF G V   G I T IG G Y  TQ  Q Y  E Q  QT  ! G YQ‘ G f!
€3
 QTQFEYUEeGQ  !QQEYQETGf HYGFQQeGTe GFUQG` VQ EQ!QUHQTQTQQ!Q!!TPG E QT gG EV`G`
            0
                           Q 2
                                      ×
                                                                   1
                                                                                                                                                                        Q
                                      C                                                                       Q
 bQFUHQEG Q wQ E QE3 x3Q QT T TFHQ EQGTQe QT i HQ! QGHEgGFQ !Q VG EQ HGF $HQTQ TQGE
QGQFEYTPF IEQHQGQTTGH!!EQQTQQQT!TTQQHy!b!T3T fYQFFTQIQHGFIb3!YHFGQHIGTIG!!QaHTGQQ‘QHT!TYQQa!GF! ITGaIYQHVHQQTT Q!!Q!aGT
  QQF tTQQFTF  H Q QT QTFGaTGW! QTQFV TYQHQ!x!Q QU Q gV QQPQ!YeHF Q VV GQf!! UQQYGE GHQ HGQTF  !              Q
                                                                                                  ¡          © ¥          ¥
                                                                                                                  7 ( 3 6 8 4 6 8 7 5                                 £           £
                                               G Y    T QTTQ!! T TQ ‘ t v W Q e D
       Problème de transmission                                                                                                    Case de départ
                                                                                                  Vitesse
                                                                                                                 Accélération
                 Transmission normale
W
                                                       ¨                                         ¢
                                   ¡
  bY !    Q£HU 3U 3 UQUT3TUQ3!¢ ¡ yT u TG HQ!QQaU G H!YQaGQ TG!YQF Q Q !Q VG E GQF HYQEQ T
                                                    ! 
                               ¢                                                                         ¢
                                       @                                                                                             2
  b!TQT  HG HQ  T T! QF U QFHGEQQTxQF QU GITTGIG UYGFGYYQYw E Q QT! !!QGaGY‘QTTQ3!
    ¢       1                                                                                           ¨
        ¨                                                           2‘     ¢     1
                           2                                                    ©1                               ¨
 G F !  QQG!!IGG YGYFGFYQ H QQeGTQTGH FHQE!3  Q T!HbTTH fE QG QY FGY  Q GHY QQeGQTTeGHF
                                           0                                   ¢
 QF QQTYHT QGTQQF U!QGQH TQGt!QFTHQETTHTE T! ! QGYQ !QG E GF Q  YFT!FG! GQ ‘G Y
                                                                            Q
                                                ¢¥ ¡  ¤§          ¥       §¨ £ ¢
                                                                    # #    ¤ £ #  
£ ¤£
!               ¦¥     ¥   #   ¦ ¦¨ ¢¥¨ £ § ¢ § £ §                         §¨ £¢
                                                             ¥ #   ¥ #    ¤   ¡               ¥ ¦§
3     W
                                                                                                                                ©
                                                                                                                               ¨
                                                                                                                               D
                                   ¢                                                                            ¨              ¨
 Q QYaG  Q eF GiFQ h gT T GEF`TY TGQFF GHG QQYE! Q YQ!QQa VQFtFGHG hGF t fT!F  g
                                       ¢
                           TTQaT QH TQ!   TQ   Q!Qa QF t T Q xQ     ! QuQ Q Q Hg‰            ¨            ¨
                                                     ¢
                                           Q !TQ!! GTGQ HQTQ!Qa !QFQt!TQ xGQEG F tGG!hu HTGi       ¨
                                                                      ¢                                                          ¡
                                                          t QYTTTQYTGFQF G EQFxGGIEF eQTTTQQFIGaGGFat T Qd‘i u
                                                                                     T                                      B
 QF Q  ` H!TQ  `Q I   V TFGT UFTHQYTTFFGY  TTQFT!G` TTQ QQTFQ QT   ! Y uF
                                        #  ¥  ¥ §¥¨         ¨¢¦              ¡ ¤¨ ¢ § ¡ ¤
                                                                                      ¦ ¥ # # ¥ ¥ ¡      ¥         ¢ ¨
                    ¤
  QF  Q  G TQGa T T  TQa TQ ‘  Q  !  Q EQ    !  `   I QF QeG F H!                                   5
                                                                                              )           (
                                                 @                                           @                                           ¨
            @
UTQGEEPFIHGT EQeHG FY!Y TGHQGQFGEHQ!HQFH !! T QTFQ$Q QaH¤G  Q3f!3 HHTGQQa G ‘!QaGF
                              @¨                 C                                        Q
                                   ¢       ¨
 bbQHQGVETETGQYFUQTE YFH E T E QUTQT QG! aTQQ!xGIEF Q GGF E Q`QF ! QQF Q HVH T GHHaG HQEQ H
               U
                
                               F H Q  3 3  G Y E  G E Q! Q E E ! Q  QF I G   T G  YF I EQT
                                                                    ¨@
Gx EIFFUx IgF hiQGFQ!Q GT3F QTFQIa GEF  YG QTG T!xQQFQ EQPYFaIGH Q ‘ EI GQFGTi ‘  H
                                                                                                   U                               
                                                                                         ¡ ¤¨ ¢ § ¦ ¥ ¤ £ ¢¡                             
                           ££ £  ¦© ¦  ¤  ¢ ¢ ¡£ ¨ ¡                                                        ¤¡¡¥ ¦ 
                                                                                                          ¤  ¨© ¢ ¡ ¡  
WW
                    ¨                ¨                        ¨
                                 2       ©           1        2 ©         1
 QU TQexQF GF Q H !!Q£u3  TU3g xU GWGgh  HU Gxi TQFG I F e TQF IGGa T QF QTF  QFF w  Q Ya G 
                                                              U                §
                                                                                       §¦        ¦       §¦      ¦              ¡
                                                                          t3 g$¢ ‡Q$E‡e„QT‡ QF‡„T Q86 EQY1@ )  ‡!72'`Q)Q y  £¢                
                    ¨                ¨                                        ¨
  TQ xQ    !Qu QQ H‰ Q TQ xQ    !Qu T g T QF G I F e TQF I G Ga TQF QTF  ¨
                                                                                            ¢
   QFF wU G Q!TQG HTQQG EYY`G GQGF! ET G`F QxQQyE   Ga! FQQ QQT!QQa! TP TQQ g QUFGaa GQF
                             ¨
                                                                                                     §
    bGQYF!YQ!a!GQ   U TQYGHTQ! Q ! T QT!QGaxQ Q Q!QGQEEGF `QFGF!FTG !T U QY!`Q Q y
                                                                                                             ¦§ ¦            ¦                ¡
        £¢                   ¡              ¤ ¦                  ¡ §
                  ) 0 ‡1  ‡' 0 ) 0 ‡1  ‡575 ˆ @ ˆ 0 )t( †) 0@‡1„@ „5 ) ‡ @)…‡1 6 05 ‡5 ' 6 @ ) ‡     ¦               ¡ ¦ ¦      0              ¡ © 
                                                 ¨                ¨                                  ¨
                                 T Q x Q       ! Qu  Q Q H ‰ U T Q xQ       ! Qu T  g U G  G h H G i T QF G  ¨                     ¨
                                                                                                                                               2© 1
            2           ©    1
                                                                                   §
   QbIF $F e TQF IGGxa TQQF FQHTF G QVFF w G GGHY  Q  Q  eF GF Q  QT G ! Q  T Q x QF H !                ¡
                                                                                       ¦             ¡¥
                                                                              t  HTQ‡@ ‡!' G 6Y 5 ‡) @ ‡Q'P Y‡e@)6! ` Q'Q y      ¥£¢      
                    ¨                                    ¨                ¨                                      ¨
          G  G h f T  D U T Q x Q       ! Qu  Q Q H ‰ U T Q x Q       ! Qu T  g U G  G h H G i                    ¨                    ¨
             ¨                                       ¢
  TQFGGIHF e TQFIGT GGa TQF QTF QFF w   GYFY!!G Q    Q Q  e   G Y   
                                             §
                                                 §   ¦       ¦ ¦                            ¡                                £¢           ¦
                                             t Q  @ „!@ Q'F 'Q60G5‡Y5'6 @ ) ‡ QT‡T2Q!†!…T0Q1F QF ‡'!0F G1! )0''!11`2Q'Q y                   
            ¨                    ¡
                                                                                                                     §
U GQTTGQh a HGGFiQQ diuH TGQFFGIFHe TxQQF IG Ga TTQF QQT!QFa T QQFFF wQF !F GG !f T FH! a`Q EEQy!
                                               T                                                                                                     Q
                                                                                                                         ¦                             ¡
                                     £¢                        ¡                   ¡                ¨¦
                                                '  „ 8 6 ) 0 ‡1  8   † '  t„  86605 ‡ @)‡02‡1†… 0 1 ' 0„( 8 65           ¡            ¡               
                                                                                                             ×
                                                         §
                                                                                  ¡        ¤

                                                                                                            Q G  G
                                                                                                                 ¡                £¢              ¡
                                                              ¦       ¦                      ¦                                                                  

   TQF Q TQY    Q  Q f! st QF6T …G T…@6G E7` @ ‡T@Q8F E8fQ!@!Q)f!G E@a‡Q@3!Q†@Q`9QEQy`
                                                                                                                            !Y xQ  T H E Q QF
                                         2
    QQ EQFGQeYGTQFaQ‘  TQ!G`T G‘!UQEPF IQHTGHTT GEQE G UTQQFYFGaG QQ QTf !fs!
           H                                                                                            T `                                                        1
                                                                              ¨ ¢
                §
                        ¦§                   ¦ ¦ ¦
                                            F†               ¦ ¦¥
                                                                        GG F  ¦            ¡            ¤   ¦
                                                                                                                         `        ¡

                                                                                                                                                            ¡

   bTFQG!GQTFtTFQw!†Y'TQT‡7@G6TGQETQ†`6 T…QQFFQHH9H VQ…G!H@6Q!QH7 „5)T!‡@G…GQF TTQQ !G!ET`QQF QFQ y!   ¥
                                                                                                                         £¢               ¡           ¦ ¤¦
                                                                                                                            …65 ‡05 ‡25 '†61@ ) ‡ ( 6         
vW
                                                                                                                                     ¤
                                                                                                                            £ ¡¡¡
                                                                                                       ¨
                                                                                      T  T G Q H E  !¤            ¤        ¤
                                                                                                                            ¤        ¤
                                                                                                                                          £¢¡¡
                                                                                                                    ¨
                                                                                                      xG E  T  G ¤ ¤¤     ¤
                                                                                                                                          £¢¡¡
                                                                                                     G  H E ! xQ   ¤¤  ¨
                                                                                                                                     ¤
                                                                                                                                          £¢¡¡
                                                                                                                G G   G Q ¤¤¨
                                                                                                                                     ¤
                                                                                                                    ¨
                                                                                                      x G E  T  G  HT Q e¤   ¨       ¨
                                                                         ¥ ¡ ¤¨ ¢ § ¡ ¤¦ ¥         #   ¥ ¡ ¤¨ ¢ § £ ¢¡  
                                                                                                                    #    
                                                                                          ¨        ¨                                ¨            ¨
                          ¨             ¡                                                F
                        ¨
                                                                      §
             UbGGGHh QHFGHiUG dViQFuQTQPFHG I!F e TTQQF IxGQ Ga TQF Q!TQu QQFQF wH ‰ UGTQYx QQF I GGa! QGuF Q T g
                                                                          ¦           ¡            ¡           ¡            ¥£¢§ ¦
                                                        tY Q'FFQ ‡t @Q‡'Q Y…!Y0)H GF'Q2Q7 @TBQa‡ F TQ B „!B ` Q„Q y ¦ §¦    
                                                                                                                                ¨          ¨
              ¨              ¨                   ¨               ¡                                                                   
                                                                 §
U TQ xQ   bQ!Q!uGTYg UQGFIGGhGaHGGi U d i u TQFG I Fe TQF IG Ga TQTFQQxTQF  QFFw! QQu G QQHH‰T
                                                   F                 §    ¦   ¦ §¦ ¦              ¡        ¡                ¡
                                                     tQ BG „YB Q„F H  ‡@G‡' V 0‡ Q'E 27`@TBG ‡)B6!01` Q'Q y      £¢  
                                                         2                            1
                                                                              §
                                                                                  ¦                   0    ¡    ¡                   £¢§   ¦       

              bQ !  GYFY!!G F Q €t 3 Q  tQ@Q6 0 5 ‡@)!G7Q11 @ Q E‡ `T60G5‡1@!Q@G`„Q@QHyT
                                                                     ©                        ¨
                                                             ¨                                                          ¤
                                                                                                                §
              QFF w  ‰ TG Y  QYT GF !GFg HTQQGG!h THG!iGTHQF GQI F e T QF I G Ga TQF QTF
                                                                                                                    ¨   ¦           ¡§
                                                                                                       tF Q f!  1G@) !@7†`'5Q8Q y
                                                                                              ¨                                 ¨
                                                                           G  G h f T  D  Q T Q x Q       ! Qu  Q Q H ‰       ¨
#W
                                                                                                ↔
                                                                         B
 Q  T !  ` TQF G H T  Q! Q E E! T   TQYIQGF eFYTT F H xQFGHTQFHGEVT QTeGF HTTTGQHF
                                                                                                                                B
UTGFQ!! `gTQTQYTGFFFG TQT!TTQ` bTQ! FaGTQY!QGFQQHYIGT Q GQIQGFGTE TQFFG E Q T  
                                                                                                                              T
                                                                    ¥ ¡ ¤¨ ¢ § ¡ ¤¦ ¥               ¥     ¨ ¢
                                                                                                   #   § ©    
                                                                                                         £¢¡¡
                                                                          ¨       ¨
                                                                Q G T E  ` T Q F Ga  Q e   ¨            ¤
                                                                                                             ¤
                                                                                                             ¤
                                                                                                         £¢¡¡
                                                                                    ¨     ¨
                                                                   G  QF Q ! ! G      ! G         ¤
                                                                                                             ¤
                                                                                                             ¤
                                                                                                              £ ¡¡¡
                                                                                                        ¨©
                                                                                           Q ! G  GF HT         ¤
                                                                                                                   ¤
                                                                                                                   ¤
                                                                     £ ¡¡¡
                                ¨           ¨
                       Q G T E  ` T Q F Ga  Q e        ¨            ¤                                         ¤
                                                                         ¤                                         ¤
                                                                                                                   ¤
                                                                                      £ ¡¡¡
                                                            Q Q!G¤         ¨            ¤                       ¤
                                                                                           ¤                       ¤
                                                                                           ¤                       ¤
                                                                                      £ ¡¡¡
                                                ¨       ¨
                                Q G T   T Q F Ga  Q a  !      ¨                    ¤                       ¤
                                                                                           ¤                       ¤
                                                                                           ¤                       ¤
                                                                                      £ ¡¡¡
                                                    ¨
                                   Q  G T E ` T Q F Ga Q e ¨             ¨            ¤                       ¤
                                                                                           ¤                       ¤
                                                                                           ¤                       ¤
                                                                                      £ ¡¡¡
                                                 ¨                   ¨
                                  Q  G  T e    G  T Q  G  Q  Q e                 ¤                       ¤
                                                                                           ¤                       ¤
                                                                                           ¤                       ¤
                                                                                      £ ¡¡¡
                                                                 ¨
                                       G  QF Q ! ! G      ! G  ¨                ¤                       ¤
                                                                                           ¤                       ¤
RW
U  GYFY!!G F Q  !G F QQ Q! G   HTQ ! QF H ET Q   GfG`T F H !  s`Y Q QQEyE !
                                                                5 43 ( ) 6 79 7 2 2 ) ¡ 4 ( ¡ 5 43 ( 2 ) £   £
        T Q T T Q  a T Q  T  Q F G a T QF  Q    Q ! Q  Q  Q   G T T Q ! Y   T Q F  U Q  P  G E Q E E G F Q h                                                C
                    Speed V ector Indexes(j) = (vx − 1) ∗ (2 ∗ V MAX + 1) + vy
                                                                                                                                             ¨                     ¨
                                     P os V ector Indexes(i) = (x − 1) ∗ m + y
                                                                                               ¨                     ¨
                                                                                                             t G   aU x aU U x                                       ¡ ©                    ©
   ¨                                            @
   QTFG HT!Q`G! F !QQ!  TegG TQTQGF Q    T    V U T Q!    T Q ! Qa T QF
                                                                    HTQ ! TQ F Ga T YF ITT  H TQ  Y     
   QQFI EQQTQFTTGH QTQT! H¤QTTTQQFaQGF EGHQQYYH !G!H QQ!!GFQHEGEF ! Q E! Q` GQ UQQTyT Q a
         
                                                             7 ( ) (0 ¡ 4 (¡ 0 7 A9 ) ¡ (6 7 5 4 2    £                                                                           £
                                                                                        ¡                   ¡
          2     ¥¡                       1
   F  3 d i uW t 3 T G   T QTTQd iFuQt  dTiQuFGba T QT F  QQV Q!QQ TQF !TQF G`
                                         aG                                                                                                                               ¨
                                                                   (vx − 1) ∗ (2 ∗ V MAX + 1) + vy = w speed
                                                                                  ¨
                                                                                        (x − 1)m + y = w pos
                                                                            ¨
                                                                               ¡
                                                                                                                                                            t Q VT H Q  F !   !
    TTQa HQ T YUG ` Q!FQI!ETQT`QQF T  TGQ!  T TH¤QQT!TQQa ax GGF Q!GH eTUQTYYHF! I!TTTQH! GTFQHF
                           ¨                          ¨
                                                 ¡                      ¨                         ¨
   TTQQF!UQQ HTQT! T¢ `QQT H  ¢QQTHQT! ¡ xTQQF QF !QFGQ!HTtaG H TTG!FFFQG VT GUTY¡T ETQ` YGT                                                    
                                                                                          )                                                speed index = (
                                                                                                          ¨
                                                                                                Q Q H T  F   E T                                               ¨
                                                                                                                                               ¨
                                                                                                                                              t !    T   a   G T                         B
                                                s = n speed ∗ (position index − 1) + speed index
                                                               ¨                                                     ¨                                              ¨
                                                                                                                                                       t G   U Q   F   sY 
                                                                                              
    QQTFIQ EQQTQQFPTTGHGEQGFTQT!GHH¤QQhTTTQQTFQaQGGFEGHQHQTYQYH !G!!HTQQQ!!FGGFQaHETGEFYF! ITTQE!HQTQ`GQYUQQTyTQ a
                                                                                                                  ¦            ¨
                                                                                             7 ( ) ( 0 ¡ 4 6 ¡ 0 7 A 9 ) ¡ ( 7   %    £
cW
                                                                                                     @
  G Y F QF !FG!   H  !G F !QaG  !    ! Q QTF  F U QF H  G V QQTTQG!!Y T                              2                                     1
¢                                                                                                         ¨
                                                                                                                     T G
 bQFQIGGHQYTGa QGF!QQEeQFETGQFG!QQQQ!GaYF`QGGFQUTQFGGY!EQEQTGQ!TQFQ E!EhQG!QYF GTIQHTQaIGQGQYTT H QbGYT fGEF
                                 `
GY F!GTQ HQ Y T GGYGUFtG TYQF  !GQHTTTQG!!! TTQFQFQQsF!YFaG ! GHQ!!QE QEQ!yQFF w                              `
                                                                                                    0 5 4 3 ( 3 0 5 ) 6 ( ¡ 7 ( A 8 4 2      £              ¦
                                                                                                         ¨                                               ¨
  G Y  QF IGGa GF Q  EQQFFY  QTQTQEQaFGQs Q QGTG T  H QQ !  G    HT Q !
                                                                          ¨                                             f G Q  Q  Q T H U G H
  bY QQ!QaQ QFeTF GGFQ Q TQTG!!TQQFYT GHGQ!QHETQE!! QTFHGEYTT QTFPT!H Q` QTQ!Q y 
                                                                                       7 ( ) ( 0 ¡   5 3 ( 6 ) ( 0 ¡ 7 ( ) 6 7 5 7        £
                                                                                                                                                        Q Y a    G  Q  e  F
 TGYF EYTQ`aTGQ EQeQIT Gx Q F xQ GVTQQ!GTHHFGGU!QTTQG GQ F QQ! Q‰Ya QGG FQ  eGFYGFG H                       ¨
 TFGT QFG!FGG!F QQY!a` GG F UQTQeFF FGF ‰G HF T!QFYGE! ` TQQ! GF x QH QTYQaG! QQTeQFG FF
                                                   ¤
QQYaQf!GHQ eQFEGEGQTTQaTGTQGFG` TG GYF QT QTQEEYQYGHQ!!QE` QEQ!yQFF w
                                         F                                                                               Q
                                                                                                                                           ©
                                                                                                                                         5 7 ¡ 7 2 ) 6      £
           ¤
                                                                                            !   !     G   Q T Y  H Q  G F  T    T T Q  H
 b Ef! TGQTQEQFGGYsFY!!QGHx G U QIGTFGiT QGQxa GVQ G G EHET Q! G!F T QQ!!Q¡a T QQF T GF
     Q                                                                                                                                                    ¨
¨                                                                                                                          £               ¡
©
  b GHTYQ! T TGTYFYG!!G TxQF GQQ EGQYY TQ  TQQH  Q Q    G H d  T QG 
                £ ¡
                                                                                  T  ¨                ¨                   ¨
                                                                                                           QY      ! x G  Q    HT Q  !  V
dUGxdYU  UQYt TTQ Q!QaG#QQY!!QQQG!TQa E `QTE FeGaG QQ e!QQaGH QE!`T G` QTQQFyQFF w
    T
                                                                                                                          7 2 ) 6 ¡  )9 803     £                   ©
pW
  Q  x  f! TQ! Y  EQY  G  QTG HGT G E ` G TQ !G E Q  x G QF IGTQHQ !QY!
 bTT TQ!Q!Y QQT `QTQIGFGTiTQQ!VGE` TQQ‘y Y E!QGYQYVGHf!G EH`   !QTaGGQ VQT T QQ!F
TbQYGE TQTFQQF QF Y HQ TQQQQ!Y!YH TT Q!!Qa`TQx GF F!QFHG H! GQFQG` G`UQ!f!`sQQ yT G 
                                                                     ¡
                                                    ¡3 6 ( )                        ¦
                                                                          5 4 3 ( 3 0 5 ) 6 ( ¡ 8 0 ¡ 5 7   % %    £
                                                                                                                             ©    
 Ga!Y  Q!G E GF Q f! s  T G  QF QFFG  QQQa! QQT GFQ!Q` QQ!y! QF
                                                                                            ) ( ) ¡ ) 7 6 £ %    £                 ©         ©
                                                          ¨                                   ©
   QTTQ a Q  QG ! GF   H HG G H u Q x u Q  T Q YT   G T  TQFGGE I xEGE!    ¨
                                          C
QTQF F QF !FG !   IG     QFFQ V TP H !Q! U QTTQ  a Q  T Q!   T Q   Q! Qa
                               2                              1
GbYFFYQTE QTFQF w!  T TTQTFQ QbP!H `!!Y TQQ!U Q!QTa Q!QaQ EQF`QFT !F GT !T QY!`Q Q Q!QyG E
                Q H QT  f! Q E E GF G` QFF w  TQ!     QT!Qa QF T G  TF     T Q E
                                                                                                                             ¦
                                                                                                   5 4 3 ( ) ( A 8 4 2 ¡ ¡ 7 5 3 ¢    £              ©
                                                                                                                  ¢
                                               QF PFF G  G H  Q Y  E  Q  Y   T Q   ! Q ‘  T    T  G   Q  H E  !                          ¨
                                                         2                    1                                                                                0
 bTTQQGYTFQ QEPF!I`HG ‘  H!GQF Hb3G fT!QGTG QTTHQ!TQ!T !QFTU QQTFGaf!T QF Q!!QG FG QGf!GT
       2                                      1
 QGY QQT VQG!f!Q!QGEQTT QQ!T!G HT TQFGQFE!FG` ! G !HT`QG‘! ! VU QFFGQTHEQaT U IGFGGi                     !
GGF t Q eF G H TF     TQ EQ x Q  Q V E E xG E G G  U T  f! QFP   E QF
¨                             ¢                                      Q
         THYQ!TUTGTT !GTQFQ Q Q!GE GFQ GQ!F TQ TfF ! YbY G TYGEQ EY`F YQ yT Q! T Q TT QGFGa TTQQ!F
                         ¨
  bQF GQTTQ Q!QQaQ!YQxa! QTTUGUTQ!QG!QEaGG#F QQQ QTFEQ!`TGETTGTFQGEFYFEYTQQTYQTFQQYa!QQ`FF!QwTQQF yG!G
                                                                  T                                              Q T
                                                                                                      ¡               ¦
                                                                                                         3 6 ( ) ¡ 5 4 3 ( 3 0 5 ) 6 (      £
    W
                                                                                                                                                        
      0
  QF TQ QYaG  Q  eF GF TQa  EQ f !  ! T F H QF Q V Q  E Q Y  QEf beEF GQF
                           E                                                                                                                    ¨
                               C
UUQGG`Q`Y FwVQQEGF H` EQFQ!Q H E!GQQFFTQGT`HGTEGHaU GGUGQ!eHTGYe IQ!QQFQ QT GeHVF GGFa3GQTT3TGHUQQTQQa IG‘fGaYG
                                        ¡ ¤¨ £
                           ¥ # ¥  # ¥ £ ! # ¥ #   ! ¨                     ¥              ¦           ¢                                  ¤£                    ¤
€W
                                                                      ¨       ¨                 ¨                                   ¨
                                                                                                                                              T Y e    ! Y  Y
                                                                                                                                                         ¨
  bQQQeQT QI! ` TTQeF TIGTQ y QQEG ET G UTTQe FGIa TQQaT F H! Q QG T e  G T QG                  C
                                                                                                                              GFYaY U T    ! Y Y
TTQQ TQ! QGQ`F I EFFQGT`GQ FF U QTTT ! Q` HTHGQT TTQ TQG UQETYGF!H!EQF EQ ETGF‘ G g
                                                       ¥©                        ©          ¨
                                           7   )     A ¢ ( 7 6 A 7 5 4 4 6 8 5 7 0 A 9 8 0 ( 0 7£  %                                               £
U QG ! TG! QF T G h  T QT  I QF T G  QQYGV`FHTQHGT QTYQTQaGb EFQQ VQ TYQ!F GU ` YHT GHF
                                                                                                      ¨
                                                                                                                                   G
 QbQTQfG!FFGG!‰eT U QTTGQfbTaHGQIF TQQ!QQaH  UQQYQaYaGG Q QeeF GF FGQF  QQYTGQFaG!  QQHQHT ‘Q!QQa  
¨                                                               QG ! TQF G H Y    TQ T  QT QF    U Q Ya G  Q  eF GF
   Q QQGeF F!G F TQ HHQQH Q!QQ!EaE!Q sY G  QU QQ IVTGHTQ QY aF GQYHQ H tY  VhFHH GGHYTQ
                                         ¨                                                                                                                      ¨
                                                                                        C
  QQfT! HGQeQ QQT QGf Q QTGGIFQETQYTQQaEGQGQ GUaQQ G!bQFF!Q!T Gt !QYQaFTGG h QQeF GF                        ¨
                                                                                                                                                 ¨
                                     ¨             @
   QT YaQTG  QsYeFGGF  U !VQT! QeEQf! ! g!TG HF HY QFQFU TPF HbUQEHQEQQxQG` G gQTTQQ!
                                                                                                                                   F
    TQQT  !F GTYVQGQ`EQfF GeYFG3F3GTTQa GF QVQT!QUE PsF IY  HYYT Q GaG U Ta GF!G H Q                ¡
                                                                             ©                       ©        ¦§
                                                             0 6 A 4 2 6 ) 8 7 0 5 7 0 A 7 9 ¢ 4 6 8 7 ¡ % %  
                                                               ¥ ¡ ¤¨ ¢             £ ¤¨    §   ¥ #   # ¨     £ ¨                £
                                                                                                               £ £               ¦© ¦  ¤¡
                                                                                                                         ¤  ¨© ¢ ¡ ¡  
v
                                               U                         QTG HT G E ` G TQ!G E TQF Q H E  !  Q   Q H
                                                                                                                   ©                           ¨
            !                                                                                    ©
                                ©
  TgQGhQFiIGGxEQITFQQHQFGHFETQxQGeG!GHsTUQFVETQFTQ!FFFQQV!FVQQ QVHxGGQQFIQTGQQTEQGT FQQG!TFQQ!Ft¡!! QTGTGaGQHTH
                                                                                                                             Q                                      Q
                                                                                                      ¨
                          ¨
     bHGsHGTxQQTTGIHGFFGFGi` G QFTUGT HTTGQEE` W GQ TQT!FHG E QTTQG H!TQ aTGQ!QG E T QQF TTTG HHQFGFQ  HV
 2
                   IF   g h i GF Q  Q  ! QF Q H  Q s   E  FF G` Ga F U Q G` QF  a  H
                                                                                                  1
U EgEQFxFGGE Q G TQQEePFF IGH HTFTQF QY eTQ EHQ QWTGTQHTT QG!ETP ` QF  QTTF    Q Y  F $  
                      2                                                                                   C                                           T Q V  Q T Q!        1
                                                                  ¢                                       G
                                                                                   2         1
  TbbGQEGTQ‘GH QETEQTPGTF PI!3HQxFFQF3GUQQ G !QH!!Q yQ FQF `HQFGETEEU TQQETQQ!QGTETFQF EQTP YQeT QFFH I
             E                                                                               2                                        1
                                                                                                                       T !G E ` G T Q!G E T Q   T
                                                                                                      ¨
  TGTF! YFY H TQQaYY H!YTHG HTTTQQ TQx‘IFTQT Q!g hQiGGF EQ  QT3GHTTGQaEG‘` 
                                                                                       ¦              ©
                                              0 7 0 A 7 6 2 0 7 23 6 ( ) 0 7 7 ( 8 4 2 5 7 7 03 6 ¡ %                ¦                                                     £
                                                               ¡
                                     ¤  ¢ !    ¤ ¤¢                        ¨ ©   #                        ¥ ¡ ¤¨ ¢ § ¨ ¥ ¤          ¢  ¡  
                                                                            Y                                                      Q Y T    G  T Q                 YT G 
                        2 ©         1                                                                                             2© 1
                                                      ¨                                                                                               ¨
    bGFQT!HTQQFaFFGwT QTUxUGTGGQHEYQQQHHQEF!H IGH TQQQYYFQaHHQGTQQ!QYTQaQFG UxT GTHQ QE`GTeTQQGE  H
                                                                                                               @                                                               E
                                                                           ¢
UUQTT `!QQ!F QTGQF !FG!F!TG! `Q G ‘Q Q!QI fTQ!YYGeE TYQF YQTFG H!F GG!Q Q YTaFQ!EEQ!!             ¤
       P QG  QHQQy!!TGF Q!EGE TQ!F QYTQFE IQGF IHGEY !T TQ! QTFGG GFGU!QsYa E  QTQQ !QUTHbTQfQ
                                                                                                                   ¨
        QQTTGG!! QQ VG f‰! UTQYsYTaGTQ QTTF H!FGx! TQQTTQFFGU H!Q!G TTQGFHFGHQ EegQT QQFTHGbHT QfY HQT G!!
                    ©                                                 ¨
       QQQGG H FQ VVFQQFVIUTQTVHYFG`ITT HG F QGHYEF!U QYQaTGHGG QQH GQHY! QQy QTYQaT G! T QF                                   E G 
                                            ¨
     bQTGH! GQFF QU QYGFGa GF GGY sYa QTGT GGF GQF Q TYF U 3FG3a GF TGQsaGYFa TQEG h G e
                                           
                                 7 ( 0 3 8 0 6 4  7 9 6 ) 8 7   ) 0 0 ) 8 A 7 9 ¢ 4 6 8 7 ¡ £ %                 ©        ¦§
3   v
                                                                                                                         ¨
                                                                                        T Q Y        ! T Q !  Q!   T               ¨                         ¨
                                                                                                                                             £ ¡     U  QF Ga G F
                                                                                                        ¤
  vQdQTF!IGFTGi TUQ!QEQH YTFVQYY!TTQGQTEQQY!QGFGE!GYFH!TQxGGTEQG`! Q H!TTQQTQFQ!TTuHTQ QG!ETT`QQQ‘!QQaF
                                                                                                                                       G
                                     ¢ 7 0 6 ) 8 0¢ A 4 ¢ 7 0 A 7 6 2 7 2 3 6 ( ) ¢ ( ) 6 4 7 ¡                ¦              ¦           ¨                 £      %  
                                     Q T Q  ! r Q T T G T Q g $  T G ! QF T  G  T   G  e T F H  Q I T Q E PF I   H
                                                             2              1
                                        I    
 TQaQHG QH xQEFQGHE!GGQFyQsQ TGEHTQ TQQTY QF! $TQ!U QGTE QQ! TQEGQE TQxQ Q GTQFYg    C
                      @                                                                                   Q                                                         C
                                              × ×
                                        2                                       1
TTb xQGTTQGaQ Q QQ!HQdEY‰EF ‰QQ QVFTFQGEGPHQF IHG THTQTQFTU QFQGIGEQQ !GQQTGQEGG!FeQUQFQIQF HEEQ ExQF
                                                                                                                    Q
   bQTQ HQ!yGFTQQ V  F!QF!Q QVF HgEhQ xiQ TQGH QUTQ xQFTHYE!THQ QEPaFYIH HTQQxQI F G! QFgThiGU‘G           
                                                                                                                                                            G E  G
                                                                                                           ¥¦
                                                         ¢ ¡ 4 ¢ 9 4 4£ ) 9 6 7 6 4 3 9 ) 3 4 A @ 6 A 4 ¡ %  %   
                                                                             #   !        ¤£             ¦ ¥ ¡ ¤¨ ¢ ¦ ¢¨                                           ¤
                                               ¢ ¦ ¢ £ ¦ ¦  ¥ ©
                  ¡ £ ¤ ¥  ¦ © ¨ ¡  ¦ © £  § ¡ ¡  £ £  ¦ © ¦  ¤ ¡
                                                                                                                               ¤  ¨© ¢ ¡ ¡  
Wv
    2@ 1                   ¨                 ©                            2 @ 1
      U  ¢ ¡ QTG HT g Q xG  T GF QTF   U U U  g  Q E YF Y F Q  Y! ! G   g              ¨
            ©                                        @                                             T
     Q xG T G ‘  TQQ V  !FQ V TQ I  TQ   Q ! G QaxQFHH EQ!VT F!HF QVQ EQPTeYQFETQ         T
                                                 C
   YQY xG GTQFIGT  QTE vTQ QVU FFQ!QTITGFHG i TQQTG!HTTTQ !TQFGEG TTFQF Q VQ YG` Q‘ !
                                                                       Q
                                                                  ¦§                        ©
                                                                   7 9 ¢ 4 6 8 A 5 4 3 ( A 9 4 0 £                ¥¤               £
                                 @
  Qa  FFG` ! Q G GE FQ ETPFITHQ EQT vQFYQYTGQ g!QQy VQT GH` QihQgPTQGET GQ! QFGT Q G 
        C
                                                 F
                                                                             ¤                       © ¢
    QG  e TQ  V Q! U T  T Q E  W Q  T F H Q TQ!G E T Q  Q!  T Q  T G H Q E Q H
©      FQTUIG GHFT GiG E `HQTF QUFIGGQeQGHfQ!yQTYF !T QTQGHT QaGF G E  TTGHG E!  ` TQ‘G  G
                                                               
                                                                         ¦¥          ¦      ©
                                                         5 4 3 ( ) ( 5 7 9 8 3¢ 0 7 9 ¢ 4 6 ¡         ¦§                       £ £
                                                                               f                                                        @
                                                     ¨                                                                                   ©
 YY G QEQTeGHGT i $hgU GQHY YEe QTQ TT Q E! eQG GTFQ E FQ eQTGTf G!F   IH YT  G
                                                                           ¨                                                        ©
                                                                                                                                   HG G
                             0                       ©                                              ©
UQ!!G E` QQQF QTQG‘aQTQE!eG` GTQF $  TFGQ!! QF TG HhT Q ! Q! QGTEG HGTF TQ QQE eQGF
                                                                                                0
  TTGQ ! QQFTQG h!QY   QQTTGGQHHTG TQ FE U TeGQT!QQaTQQEEQT YT QY aQQ T QFQIGHTGaTQ!F$`
                                                                         
  QTQ ‘V YYQGGTYF F H QHPTEFQIHTTGHF UTxIQFGHT GGF  QT FHQ FG!sQT ET GQF EQQe TGf‘! T QF
                                                                                                            ©
                                                                                              5 43 (2 A 4 6 (5  %                 £
                                                                                 ¡ ¤¨ ¢ ¢ ¡  #  §   ¡                                  ¤
vv
                                                      C
                                                                                              Y
                                                                                                             ¨           ¨
  T H U   F TY Q  !  ` Q E E GF GQH  TQTGTGFH TX TQQFgT Q QTGHTE Qa! xT Q 
                                                                                                                             B
  TQ‘GTG QfTGGHTYYQEYeQ` FHQEYQEQ `T GT TTQ ! HGU EFG E`QH TQQEF Q` GHQE!GT HFFGET Q !  e
                                             x
                                                                                                   #   # ¢ ¡                   ¤
                                                                                                                      T Q    `
                             e                    ¨                          ©                                      @
 bTQQ!PeYGF ETQQEQFGGEYY`QYF GTGf! QTH EGQE!QH` G‘Q E TQe!GGE !xQaGG QTYPs!!GTEQ TQ EF
bUQQFTGHGH! T H!QFGaGEUTQ tQTQYEGQ EQQYaGFQQYYQH  QQF ! T TTTQQG! s   EG FT Q‘Q E
                                                                     ©            ©
                                                                    7 4 2 A 5 43 ( ) 2 3 4            ©                    £
                                     h v Q  QTG HT Q eG! T Q ‘ t 3 R Q e D
#v
                                                                                                                  ©
                                        0
              T G    !Y xQ  T H EQ TQF QF H EQ xQ G H ! a t x Q! TQ EP T T TQ  TG ! QF T G 
            TQE QEFGae TQQTQT! FQHYQ TQQYQ! G!TQQHFQQy!xTQ IVEQTTG HFTH TFQHGHFG EQ`GG‘` QTQFGH`
                                   ¨
                              ¨
           UTPQ !YxTQ T GTH EHQEQ TG HF HTYT Y`YVe!iThEg GTQQF TQG HVTGG`EQF G H Q VF H xQ T  V Q!
                                                                           
                          C                                                                                  F` Q ‘  T G E ` x Q  T QF
                              R                                                                                                       ¡
             T TG TGTHQ EQ ETQF X TQ gQQFGaQGE `Q!F Q ` VGF QQQYV!Y HF QHF HGEQQ xVQTF H Ta FTY GF
                                                                               ¥          ©                    ¦¦
                                                                  0 ( ) ( 9 A 0 6 0 7 7 6 3 ) ( 5 7 4 ¡ %  £  
                                                                                                     % % $ $7 %           % % # #7 %
                                                                                                                                  ( ¢!
                                                                                                C § 2 1 0 4 § 2 1 0 4 G G
                                                                                                                  P#  H § Q $ P P7 #
                                                                                                                                  ( ¢!
                                                                                                                     C 3H 3 I !  G G
                                                                                                                              
                                                                                                                                  ( ¢!
                                                                                                C 5 4 2 ¨ ) H 5 4 2 ¨ )   ¢2 @ G G
                                                                                                                                 A
                                                                                          t T  Q  I  T  G F T Y  T QF    u
' 8 87 %  C   C © ¢ ) 2 1 ! ¦ § 12 § 0 ¨ ! 6      C § 2 1 0 4  C ¦ § 12  C 5 4 2 ¨ )   C 3
                                                                             B § ( ¦ ! (B ¢ § ¢ ) 2 1 0 ¨ ) ( ¤                             
                                                                                                                ¢§
                                                    '   1 D  D   § ( ¦ ! (  D  D  F 1 # # E C 
                                                    '   1 D  D  © § ( ¦ ! (  D  D  F 1 # # E C ©
                                                                                                    $D #  1 ¦ ) @
                                                                                          '  $ # # ¨ ¨ § 4  C 
                                                                                          '  $ # # ¨ ¨ § 4  C ©
                                                 B § ( ¦ ! (B ¢ § §  ¥ ¨ A ) ¦  0  ¢ ) 2 1 !  ¦ ) @ ( ¢ ! ¦ 9                            
         '  8 87 %    © ¢ ) 2 1 ! ¦ § 12 § 0 ¨ ! 6      § 2 1 0 4  ¦ § 12  5 4 2 ¨ )   3
                                                                                  ' § ¨ !  ¦ ) ¢ ¢) 2 1 0¨ ) ( ¤                            
                                                                         '  % $ % $ #  ¢ ! ¦       ©
                                                                                          © § ¨ § ¦ ¥ ¢¤ £ ¢¡                               
Rv
                                                                                  2       1      ¨
                                                         dt 3 ¡ G   H U GUtUt g  G    HT Q  !  QTG HT
                                                                                 × ×
T Q !  G                   ¨
               E TQF Q  Q! TQF FFQ! TQF    d 3 3 T  T  Q E  Q  TQF FF Q! Q 
                                                 ¨
                                                            C                A
 TQGQF IGGE` QQF bTQbT!Qb! FUQQ!TF QYTTQFHFE  VQTFGTT!QQFEG QxT vG ‘Q  QQTGGTHTF T Q!F GEH
                                                                                      
TQQF IF TQTHHEQ!QQG HQTGQ HT QF H QFQGQ EQ HH Qx IF ! YYg h i QGF! QTQ EPFI F HaTY ‘G e
                                                                                              ¡ ¤¨ ¥ ¦ § ¡ ¤ ¤
                                                                                                                                        ¤
                                                                                                % %   Q7 %   % %   Q7 %
                                                                                                                       ( ¢!
                                                                                           C § 2 1 0 4 § 2 1 0 4 G G
             a G F   Q E E  ! x Q  ! T P   Q E P F I   H U Q F  I  E   G Q T   ! G F Q  T G ! Q F
cv
 b Q a   G F Q  Y  Y    T     G ! s    E T Q F $  x   G E      T                     ¨                                                               ¨
                                                                              C         ©                      G    T F T  G  Q H
    F                                                           
 Qb E!GTQFFHEQ xQQ TGHU !QI` TTQQQGQQEH!YYTTTGTFY!YG!Gs`TQQEEGQTeQFQyTGfG!EQU!TGY sGe ET EFF H!FQQG‘H!
          Q                                                                                                                       P           0              C
       C                                                                          C
  QQ EVFE QVF YYQ GeTQT T! Q`TTQFQtE eG TQF U  QQ  Q  Q Q Q E E QF Q E 
                                                           Q EQF!E GIF QxYTGQQ VTQ eQEFFEG GeQEHQ Q ! GYT IGG‘F
                                                              T                                           Q 
bQGi U QF IG` T F H Q I F !FG ! Q  T H EQ    Q eGGaG F  Q E QFG e Y Q QTY H QFF w
                                                                                            @
      Q! QF Q EQF IGY T  ! Q sF H ET QFFQ U QY VF H E ! T F H Q EQFF Q  H Q!   ! TQ
                                                                                                 F
                             ¨
 bQFFE  V` Q  QQQFFQTQF‰  QG!QaGQY HQEG E GE EGaYeQ H QTQ QFF QQe!GTTGGE Q‘ GF                    H
             ¥§¢£¤               ¥ # #£ ¤ ¥#      ¢¡                           ¡             §              ¥ ¡ ¤¨ ¢ ¢¡
                                                                                                                    # ¥ § ¨ ¡                                £                         ¦
                                                                       @
                                                                                                                             0                                     ©
  TQ G QGGTi !QQTaGF!QaQ E QT  TQH QTHGQFY Q!GGfH! TH GFQUQ IQ QTGH G Q  T!FQ FT!QG EV`
                                                                                                                                      F                                        R
UTTQQYFF!QYQ!EYQFGHGEEY QYFIYTQFGEQQFFQG!U QQQaTTQ!aQYGFQGEHYEY`QxTQFQIF QTQTTTHFQEQFEQGeQQF H!$TQFGTHG!!!TVQTF TTTGGhT
                                   F                                                          F
                                                                                                                       ¡ ¤¨ ¢ § ¦ ¥ ¤ £ ¢¡                                             ¦
                                £ ¢ ¡£ ¨ ¡        ¨©  ¢ ¦ ¤ ¢¡ £ ¦  ¡ ¥
                    ¤ ¥ ¦ § ¨ ¥ ¤  ¨ ¨©  §    ¡  £ £  ¦ © ¦  ¤ ¡
                                                                                                                                             ¤  ¨© ¢ ¡ ¡  
pv
                                                                                                                                       d i u Q  ¡
GG h    ¨                              ¨      !          ¨                            ¨                   ¨                          ¨
                                                                                        ¨
     TQFfITGGDaUTTQQFxQQTF QFF wQuTQ VQTQGHE‰ UQTQ xQQGF T!QQu TQHgTUGGGF hTYHTGQiTQQFGF IsQFeF
                                                          ¨
     YT HFUGa QQ!QTaTQQF TQ QGT` QQTQT !YTF!G YYY!FIHTTQ‘H QT VQGTfT!Q !! THQT`TT QQ!!! QaT
                                                                                                                              0           ¢
                                ¨                                           0
                                              §
      QPEFQ!HFGG!T G  QHTTQ!! T F QT    F !FG!  QTTG H QFF Q U Q Q  Q  G  G ! 
                                                  §                                    ¡                               £¢
                                                      ¦       ¦ ¦                                                                 ¦
                                      tHG @G„H@T'Q!'6Q0Y5 ‡5 ' 6T@Q)T ‡ Q I‡E2†…Q 0 1Q  Q‡T'Y01H )0''!11`2Q'Q y                     
                                                                                                                                              ¨
                                                                                                               §
                                                                                                 T  Q a Q  P E Q H GF Q V  Q 
                                                                                                                   ¦                                  ¡
                                        £¢                      ¡               ¡             ¨¦
                                         '  „ 8 6 ) 0 ‡1  8   † '  t„  86605 ‡ @)‡02‡1†… 0 1 ' 0„( 8 65         ¡                ¡               
                                                                                                                                              ¨
                                                                                                                                              
                                                          §
                                                               ¦    ¦            ¡     ¤   ¦               ¡
                                                    t 6 …  … @ 6 7 @‡@8TQa8 @QP) E Q@ H‡ @G3F Q† @V9Q        £¢                ¡            
        ¨@                                0                                                                                                   0
                     §
                           ¦§                 ¦ ¦ ¦           ¦ ¦¥
                                                                       !   ¦           ¡         ¤   ¦                    ¡

         Y  Qt G†' Q‡F7F@Q 6Q†Q†6Q U…QQ Y9Y H …@G6G!7TQ !„5)T‡G@!EQ…aGQ QT! QQ!YQa T QQ !TQGagG                      ¡   ¥
                                                                                                                   £¢             ¡
                                                                                                                     …65 ‡05 ‡25 '†61@ ) ‡ ( 6  ¦ ¤¦     
                                                                                                                                                        ©
         Q QYaG  Q  eF Gi h g    F TY GF G H QY  E QY  Q VF  H GF !F g                                                    ¨
                                                                                                                                                      D
                                              ¢                                                                                   ¨                   ¨
                                                  ¢                                                                                   ¨                  ¨
                                          QF TTQTTaTQHGTQE! ` TTQQF GQ!QQa Q!F TQ xQQ!Qa QF G!GQhuQ fTQQH g‰
                                                               ¢  Q !TQ!! GTGQ HQTQ!Qa !QFQ!TQxQGEGF GG!hu HTGi          ¨
                                                                                  ¢                                                                   ¡
                                                                                 t QYTTTQYTGFQFGTEQFGxIGEF eQTTQTFQIG aGGFa T Qd‘i u
     T G U TQT Q TQ E eTQYGT HQHFGQTUTQYGT!Fs TE TQ! ` TQH !QTQTF QQaP I !Qu  V
                                        ¥         ¡ ¤¨ ¢ § ¨ ¥ ¤
                                                             ¢  ¥ # ¦    § £             ¥       ¨¢              ¦ ¢¨           §                       ¦
                                                                        ¨
                                            ¨                       ¨
      T F H   U  T GQ`TGTGQ QQ Q!TGQY QsF !!QG HGQ UTGQHGGhY UTQQE PFQI EH YTQEH
    v
                                                                                  ¨                         ¡
                                                              G  G h H G i  Q d i u T QF G I F e T QF I G   Ga T QF Q TF                                                ¤
             FQFFwQQf!QYQQ!G THTQH Q! VGf!TQsGYaGF TQ VH U HQTTG HbTQfs¤  H IY  T  HT
                                                      ¨
                                                                                               §
               TQQQFHG HT!GQH VGQfT!TG HQYQ! TTQTYGT QHH GF QF !FG ! QFF Q GFQ !   g  QT H bT  f TG Y                              ¡           £¢
                                                                                                   §¦      ¦ § §¦               ¦
                                                                             tT „T G„ „TQ6F 0Q5 ‡V5 'Q6s@) Y‡a  @'!  '` Q)Q y                                 
                                                                                                                                                             ¨             ¨
                ¨                ¨                        ¨    U          ¡                                                                                Q
                                                                                                                                                         ¨                           S
                                                                          §
U TQ xQ   T GT!TQu QT!Qga UTGQG h QHGHiQ E d i u TQFG IF e TQF IG GaTTQQFxQQTF  QFFw! Q uE PFQIQH‰H
                                                                               ¦                   ¡             ¡
                                                                                                                 7
                                                                t f'‡e@FG‡'F t …0T)Qa Q'P2 E@QB H ‡GF Q VB„QBb„T G      ¡            ¥£¢§ ¦           ¦ §¦    
                                                                                                                      T Q xQ     ! Qu  Q Q H ‰       ¨             ¨
U TQ xQ      ¨                ¨                        ¨    U          ¡
                                                                                                                                                         ¨                           S
                                                                      §
                                                                          §   ¦        ¦ §¦ ¦                       ¡               ¡                    ¡                 £¢  

                                                                    „
               T GT!TQu QT!Qga UTGQG h QHGHitQ E fBdiBeuFGTQF„FGt I‡F@Te‡T'QQaF IQ0G‡PGE'aQT2QHF7 @QGBTFF ‡Q) QVFBF6w0QQ1EbPF'TIG H
                                                                                                                                                                     ¨
                                                                                       §
                                                                                           ¦
                                                                       t @ 6 05 ‡ @) 711T@Qa0Q‡P6E0Q5‡H1 @GF Q@ V„@Q ¡        ¡                   £¢§       ¦      
                                                                                                                                                         ¨                           S
                                                                                                                                             §
                                                                                      T  Qa Q  P E Q                                      ¨   ¦
                                                                                                                       t H GF  1 @Q ) V@Q7†'b5T8G        ¡§
                                                                                                            ¨                                                ¨             ¨
                 ¨                ¨                       ¨
 U TQ xQ   !Qu T g U G G h HG i TQFG I Fe TQGFIGGhGafTTQFQDTFQ T QQxFFQw   Q!Q!aQu TQQQHQ‰
                                                          ¨                        ¨
              bG`QQHFFTw TGET`G TQQF QHEG! Q  G Q EQ H TQ VT G E Q  Q e GT Q EQFG eY
                                                                                          §
                                                                                                       §¦           ¦       §¦          ¦
                                                                           tQG$F‡ E$T ‡Q„‡`Q‡„Q 8 6  I T 1G@ ) ‡!72'`Q)Q y  ¡               £¢               
                                                                        ¨                  ¨                                                ¨                    ¨
                                            F  T Q x Q       ! Qu  Q Q H ‰  Q T Q xQ       ! Qu T  g T QF G I F e
              TTQQF!IGTGGaTQTQFQTQEQFGQHFF!wTHQUTTQTEQFQeQEGf!` QQ QQHQrEQTTG  IH FTQG!GE! F `!FQG!QQy     
                                                                                                                        §
                                                                                                                                ¦§ ¦        ¦                    ¡
                        £¢                ¡              ¤ ¦                 ¡ §
                           ) 0 ‡1  ‡' 0 ) 0 ‡1  ‡575 ˆ @ ˆ 0 )t( †) 0@‡1„@ „5 ) ‡ @)…‡1 6 05 ‡5 ' 6 @ ) ‡               ¦               ¡ ¦ ¦
                                                                                                                                            0                             ¡ © 
                                                                                                                                                                     ¨
                                                                                                   §
                                                                                                       ¦                ¡¥
                                                                                 t  ‡ @‡'  T6Q5 ‡a)Q@‡P' E Q‡H@ )GF 6 Q V'Q     ¡                       ¥£¢      
€v
                                                                                                  0
                bTsHEQEQFTQFQTGEUQHYeGTaIQ QTFG HT GTQ Q RV 3TQYT!QQa QQ  QUG  QT Q  TQ Y e GT a Q T   G !
                                           !                                                                 PT QT  f! T Q  F Q !G G Y F  w
                                                                         ©
                U TQQ Q H TQY     TQF Q V G aQ  xQQ GFQ! TQQTE EFIHH TQQF ITGT  QHT QH bV QQH!       C
                                                                                                                  2              ¨
                       1
                 GGHQTTQF  QQQ TGYT GQ!TQQFa GGFTQ!YFG!VFTHHG!`T TQF UT  G  Q`GT QF H EQ xQ
                                                                    C        C                                        `T   T  G  TQ  F !F G !    ¨
                           ¨       ¨            ¨
                U QGTTF UT F HTQQ hFGaQY  QEaFY!QFTQ QF !FbG! QQH THGEQHQ Q VGEQ F ! eTI QF H GFQT !G!`
                                                                                                                                                    ¡
                 G ‘HQF !!FGQ! QQ THFYEEQG FQFQ YTQEITHT HQEG QFFQQHQG! HGG#QT3 F TTQEaPFGIFU Ha TG F G e T QF
                                                                                                                            Q
                                                                                                                         ¡ ¤¨ £   ¥ #¥
                               ¦¤¡
                   # # ¥ # ¥ # ¥              ¡¦         £            ¡ ¤¨ ¢ ¦ ¤                        ¥
                                                                                           ¥§ ¥§  ! ¥¥ ¨            ¢¨ ¨ ¨           ¤           ¤ ¦
                                                                                                                                    ¢
                    !Y xTQ  T H EQ TQF $  U QFFG Q  G e Q  TQ EPF ITH TQYF QHETQQTF IQTYaT QT
                                                                                         ¨
                  QbQ aQQ EQFFQYQTTTQ!TQ`#Q3 TFQTHHQaG GF Q IvE 3  T QTaQ!GsFY QYIQTeQGFTTGH QG‘T EQFFHG
                                       ¨
                TQQFGe HQ 3TQ EPFQIYHH QT QQEGQ`G QGFHTYQTE aQFG eYYYQE QHQ T!QYEQPFI THHETQTQQHF
                                                                        !                                                         x
                                        @                                            2       ¨                1
                  bQ VTTQH!QG QEGTEQ QeGTFTGaHY QQFQ YVYGQ EvQ 3GF!3Q3Q ET QTT TQTQ!TbQ!! GGQEIGQ QT‘QF G E
                                                                                                                                         F
   v 3  c # W c p v v                                                                                                 2 1                     u
            £
                                                              €3 € R # 3  €  v  t T # 3  T Qu              2 1
          ¡        ¡                   ¡    ¡                ¡      ¡                                                   2 1
                                                                                                                                                
EQi3`x3 3 EQiRW`x #R EQRiW#`x R3W €€3vx333 #3pv€x3p3 c€#pvx#v ttt TT !3v33!  TTQFFQQuG
                                                                                                                                                    ¨@
                           ¨
                   QPFY!!G TQF  V Q! U TF !FG ! TQF   H  QTG HT G E ` QF QTFQ EvQF3I GYTTQQaG!F Q Y V
                                       ¨
                 TQQPEGTGQH F U# 3Q !vY 3xQU3 3T HT EQTTQQaF TQQF   HyGaQ Tg QGQFF I!GFG !QF UQFUHTE QVxQQGH
               ¢
                bTGQEPFYF IEG HTQT TG EeQTHQF G #T 3TQEHEGv3 T U TQTGQFa !GQ!QQHT !Q ! G E `Q!HYYQ GT‘ 
                                                                                                                              Q
                                                                                                                                ¢¡ ¥
                                                                                                                               # #
       £§§§£               ¡ ¤¨¥ £                     §
                                            # ¥  # ¥ ¥ # §   ¥ #          £               ¤§               §¡          £¤ £
                                                                                                                                ¦      # ¨              ¦
#
 S
                λ
               2 1 
                                                                                                                       e    G QF
 5                                                                                         ¨@
b  GFFHQGQhQ! QF!U TQYT!QeGGaGT  QFTTYG ‘Q  TQGETfG`TGeTF G Y  TQG  QVEYFHE!YFxQ T
3#
            λ=0
                                                  Q                                                                     @
                                                                                                                        Q
                                                                                          λ=1
                                ¢                                          ¨
GF QQaQYaQT I FTGG!QF Q!U QFFQGyH E!iQ QQQQ HfY E QGFaTQ G  Q E ET G!! QUFQUT!d G 
                                                                             
                   = rk + (λzk+1 + (1 − λ)V (sk+1 ))
                              λ
                   = V (sk ) + rk + V (sk+1 ) − V (sk ) + λ(zk+1 − V (sk+1 ))
                                                             λ
                   = V (sk ) + dk +            V (sk+1))          λ(zk+1 −
                                                                     λ
                                                                    m=k+1
                                                  λm−k−1 dm                    = V (sk ) + dk + λ
                                                                   m=N −1
                                                                                 m=k
                                                                 λm−k dm                  = V (sk ) +            zk
                                                                                                                  λ
                                                                               m=N −1
                                                                                                            T F G G      ¡
                                                          V (sk ) ← V (sk ) + α(sk )(zk − V (sk ))
                                                                                      λ
                     λ
                                 ¤                5
Ga!YQ Q Q! Q !  QF  QF Q  Q H E ! xQ EE`QGF TQ GTTT3Q p QH G VY F
                                                      Q                                          ©                    ¡
                                                                     m=k
                   k = 0, . . . , N − 1               λm−k dm ,                V (sk ) ← V (sk ) + α(sk )
23 1
  p                                                              m=N −1
           λ
          2 1 
                                                             t                                    λ ∈ [0, 1]
  sY  h Q  Q E f  eFG ‘   GY    H Q  QP E GGGHa T QF T Q   ‰‰ G H
                                                  # ¦ § ¤ # ¥ ¢  ¢  ¦ ¨£¤               ¢ ¢§
                                                      ¢   λ
                                                            ¡ ©                 ¤ § ¡ ¨©  ¦ ¡ £ ¡¡ ¤
                                                                                              ¤  ¨© ¢ ¡ ¡  
W#
                                                 0   ©¦ ¦©     ©% £  © #   ¤    ©  © ¦ ¥ ¦ ¨ ¦ §¦ ¥ ¤   ¨¦   £ £ ¦$         ¥   ¦    ¢¡
                                                                            λ
                                                                           2 1 
                                                     t F G   e    h Q E f     e F G F Q  Q f !   H T F H G F     zn (s)
                                                             
                 dn                                                  (sn , sn+1 , rn )                                         n
QYFT!QFaG!GF T G QTQFGQQYsFY EQTT YYYGF IeFY  Q!G YEEGYQUEP GQF EQ  QV TQP‘
                                                                ∀s ∈ S,
                                                                                         T
                                                                                   V (s) ← V (s) + α(s)zn (s)dn ,
2  # p1
                                                                                                                                                       ¡
                                                                                                                                               V
                                    C                                                 @
 Q ts Q QGFFaG T QQEQ` GF QHQ!H Q FFVQ!U vGp! QUQ!Q G GFTQQa Qs G!F    V  sY QF Ga  ¨
                                   @ ¨                                               ©
 bQ Q! T` GGIF  T IG x GGsTQEGYQ QFFQQQ HH Q! Q QT IQGE FfQV eFGGF! TQF GG VTYQFG
                                                                                   m=k
                                                             (γλ)m−k dm                       V (sk ) ← V (sk ) + α(sk )
2  v p1
                                                                                   m=∞
                                                                                                                                         t QH               ©
                                              γ =1
                         ¨
     QF e P  Q      ! T G ! G QF I                                                                                                          ¡
                                                                                                                                                             γ
                                                                             GF!IEQQT !Q HQ G TTQ !YQF T!QFGF! V U W p
                             π                                                                       λ
                                                                                                   2 1 
 QP3p! QTF GFQTGT QTQVEfFH eQFG TQ  TGGFG!asYF E HT Q  G h Q! QGGQ!YF H YHG ‘ H b
                                    QY  ©
                                             F H EQ Qa T TQ U pU  Q  Q f!  H U 3 Q  Q Q Q G 
                                                                                      λ
                                                                                               Q        0
bYEGQE QQYFGaGTQ Q UtTQ HVE H! EFGQETPQQ!TQQTYQ    QE PFQI FQ H V Q  H QFTGQEF H          ¨
                          n αn (s)  ∞                       n αn (s) = ∞                                             n
                ¡ ¡          2                         Q                                  Q V Q FF Q  U    G  Y  Q V G f!
                α                                                     s∈S
¨     TQa £ UT ¢                                                                                                       λ
                                          ©                                               
                        !Q  Q! GTT !Y  Q U G Y Q VG f! Q    s  Q I E   Q QT a
                                        λ
                                      2 1                                                ¢
Q THQ QVYTTGFE TYQTYP fG H fh TQFQ ET fTU eFG F Q  Q T Q VTQHQ QU ! QQ eQaQFG!a GQ‘ 
                                 dk                                                (sk , sk+1, rk )
                 QYF !FG !  QQ F Q QYF ET TQ  l = 0, . . . , k
                                                                                                              T  G   G F Q V T P 
                                                                                V (sl ) ← V (sl ) + α(sl )λk−l dk ,
2  W p1
                                                                                                                                                   λ
                                                                                                   G                                               2 1 
                                                                                                        C                                              C
                                                                                                                              λ
                $  ! G    G            $ ! G   $ !  ' ©
 QeQGaTTQHQ H HGD Q E f  eFG F Q  t QQHF ITTQHTQTTfQ!Q3aQpHHGUQxEQ VEYT FQQFhUGHQ YY!YT !gQh 
                                                                                                                      ©
GF Q  Q   fY E GF   H Q E E ! U H !  Q   rQ Vf EG  V QYGEEG!  Qe H                           T                            ¨
v#
                                                        ¨                 ¨                                                                                              ¡
                                               S
TQQF TGQ e HQ QQFaGQaGF GYQ!Q!`G HTQQFTQTQF!FQGYfG!FQ H HV GTPQ! GF!T QQTPG HEQ  HT Q Q I  ¤                  ¢
                                                                                 λ
                                                                                2 1                                                                             ¡
                                                                            ¨
WTQp QY eFsIGeFFQY Q!EGQF GQFE ETQ!YUT3G I QYhGTQ ! Q!QTQ Q!GG GFQQEYF H QEF G aQ G ‘
                                                                                  s = sn                   1
                                                                                                                                         zn (s) =
                                                                                  s = sn                   γλzn−1 (s)
                                                                            TT                             ∀s ∈ S                 z0 (s) = 0,
                                                                                                                                                                         
  V
t                                               H  GTFG Y ! QaG Y F I eFY  QI! G                                ¨
zn (s)
                                                        0
    QQ!FGGa QGF QQ!Q`YGF Q QQEGQPTeYFFHQ!QesYQaQ! Q T G ! T QG Q! !T QGFhEQT
                         QaGF E ! YF I eFY  Q!G t 3 p Q e D                              
    n
      dates des visites de l’état s
      n
                                                                                                                                                                         1
                                                                                                                                                        z(s)
                 2                                  1                                                                                ¨              @
                                                ¨
                                                                                             T                                                   ¤
TbTGHGGYQa3 TpQQQTeVsG!f!GaQGQEFGYQaFFGQQT!!TQGHQQxeQGQTEGeH!YGGYTQaFHIUeYF!Y TTG QVGT!Y FQUTTQ!GQGyQae GTT
                                                                         s = sn                   γλzn−1 (s) + 1
                                                                                                                                         zn (s) =
                                                                         s = sn                   γλzn−1 (s)
                                                                                       TT        ∀s ∈ S                           z0 (s) = 0,
                                                                                              QaGF E ! ! G YF I eFY  Q! G
##
                        0                                                                                                             ¡
                                                                             
             TY !Q Q YY    G FGa Q  TTQ Q  Q YT Q  U YTFG Y  ! Q! T ` Q 
                                                                  ¤
 Q a Q Q E f eFG F QTFGY Y e Q Qx IFG FFGg`hGiF GU TF HTEGQ QEPGx eQY  TT GQh
                                                                         @
 b! T Q  Q TQ  s QG Y TQ a T TQ !Q G TQF Q VT H Q V YQFIYGeF IEQQET QQFG!                      ¨
                                                  λ
            C                                    2 1 
bbYHHGT QTG H GHY  aFYHQYVY YGT  ! hG g QTEQfaeFQGF QU TTH EQ! QQQEF HQEHQ xQ F T  GYhVF H
                                                                                                         
                                                                                     ¡ ¤¨ ¢              ¨
                                                                                             ¥  §  ¡ ¢   ¥¤
                                                            (n − m)
                                                                                                ¨
                                                                                   GY  F YT a G Y F Q   QF Ga
    n
                          Q           ¨                                  @¨                 ¨
                             m
                                                                                                    ¨                !       
    8 3  $  $   7  $                                                                  log(γλ)                         ¡
TGQF F GTGYEY E VG fQQ!FFGEQTGQIQQFTGQT!TTFQeT r  fQQ EQ Y eQ TYTQaaQTGU Y T Q Q 
                                                                                            2    log(ε)                ¨
                                                                           T!QYfT!GH H G Q   f QYET QFH G QQ  E Q
                                                                                     T                                    1
                                                                                                             zn (s)  ε
                                                                                        ¨
 QQTEaEQQP!YQTGGYF TQTQG!GY TQF Q QVG EQQGQETQQ!  U!QEYQTU! Y H T F H TTYQ!GTa
                          GTFG Y !QaG YF I eFY  Q!G   t W p Q e D
   n
     dates des visites de l’état s
    n
                                                                                                                                     1
                                                                                                                        z(s)
R#
                                                                        ¨
                       x IF   g h i GF Q eY F  a  H Q   GaG Q G` FGaG                                                                ¨
                                                                                                                  ¨
                                                                                                                                         0
U!TG!YTQQFTQFTTGU TGF F HEQThQ  TQQI EG TQF G!QaG aQ EQ GTGH UQTFGI!ETQT GQQ! QTGQF
                                                                                             λ
                                                                                           2 1 
 QFFQQEQPQFGQa TGGF HQ QGf!THF Q V HQTIQUu Q  h GFG!aY F` UGFQ QQ wQGTGFT G`‘T GT
                                                                                                 ¥ ¦¡
                                                                                 # ! ¥   ¥ § £   ¢           ¢        ¤          ¢ ¢ ¦
                                                              λ
                                                            2 1                                                                                                         @
                                                             ¨
¨                                                                                        ¨                                                             ¨
    QY!T H`EQ    ` Q    F !h TQ!!UY`xGsF FQGHHHGQFI GTGTEG` ! QTQQ Q!QG TGF QF
                                                                                                 @
                        QG ! QF QT G ‘  FGaQ` Q!   e QYFQ H H G     T TQ   !  `
                                    )            (                                ¨
  QQFtQI!GFQGUiQQE eFGGaQ`Q Y! T` QGTFQQ!!Q eGYTTQFGF Y GYFY!FGG ! !Qy! ` Q! `GE Q                                            F
                                                                   0                                                                                                  @
                                                                                                         @                    ¤
bQQQaF!!GFGFQG!QQfPa! GHETQQGTYUQTTGTQ`Q!YYTQGT F QQVGEYQYQPYFeH QEG!EGiYhFQgE!YTFQHEQ FHQQTTQGF U QY!F TQaGGY‘TQQE
                                                                                          
                                                                                             ¥       ¥
                                                                                 7 A @ 3 6 5   5 4 3 ( ) ( 5 7 9 8   £                ¦¥              ¦                £
                                        ¨
b!G H TQF  s H G Q E QFFQ!G E  GQ E YF H E Q  I GTFGHiQ EQ f TYeFGGF F
                                                 ¨                           )           (
                                                                                        ¨@                               ¨
Q!QaGG` QTQTTGFEGG`QQTEYF HQYEFTUQG` QYa¤YG  YGGV QQE! YF HQEGFQ ETU TQHPE QG Ex QQh Q
                                                                                             
                                   ¦
                 7 9 3 ¢ 4 4 ( A ) 7 0 6 A 4 2 ) 9   7 3 9 5 4 3 ( ) ( 5 7 9 8  %  £              ¥                                   ¦¥              ¦
                                                                                        #  §     ¢  ¡ ¤¨ ¢ ¢ ¡                                               
c#
                                     α
)   QeGT                                     (                            ¤                 2                                                                      1
                                      s, a, s , r 
          QTYaQQTIHHGTQ x G  TQ Q!TQG!Q ‘Q   VGTQ` EQ VYGHfx!Q Q Y ! Q GQF ETGGYH        0
                                                                                        a ∈A
                                                 Q(s, a) ← Q(s, a) + α(r + γ max Q(s , a ) − Q(s, a)),
           2  1
            W                                   ˆ         ˆ                     ˆ           ˆ
                                                                                                             S
                                                     t QGa T GF TQ e  GQFb Q  QTG I Q   G Y  ‘              s ∈S
                                                                a ∈A
                                           p(s |s, a) · {r(s, a, s ) + γ · max Q(s , a )}.                                            Q(s, a) =
           2  1
           ¢
                                                                                                                                 Q
                                                                                                      Q              ©
                                                                                                  S
       bGY QP G E Q  Q f!  HtHG GaTQT eTGGQFVb Y Q EEfPT eTF GF Q  Q H! F HT GQF‘Qa
                            ¢
       U QF IG`  !    T  GFQET TH TQQTF Q QVHTQF YEY`YYE HQ!FF G QGQQTEQPF!IQH Q  fVY EQ
                                                  ©                                                                                                            @ ¨
                        k
                                                 0
       TQQTE x TQfF! QQ‘ !GQ Qh QQFFH EQG` GF UQQFPTQEEfQ  TeGFGH TGQ TQ GVTQ EHYtF HTHQTG TTQ!Y 
                                                                    O(|S||A|)                                Q
                                                                                                             ˆ
            T TQT Q I E   T F H T  GF ET ¤ T  G Q E Y H xQ T Q  Q V TQ Q eG!  T Q
                      r
                      ˆ         p
                                ˆ
                                                                                                                               S
                                                                                                                                O(|S| |A|)
                                                                                                                                        2             ¨             @
       bEGQe QU ! QQ QQGQHeQG!!T G ‘ QTTG H QT Q QFFQGEQQQH Ue Q GQQFebG!QETfQF  GeFHGY‘! GF H
                                                         r
                                                         ˆ        p
                                                                  ˆ
         QQTTTQT!QY!Y  TQQFHFQt VQQ! UYaQ! T T!`QQ`eGTQF!TQQEQFQQFTQ!YGHHGTTQHQ T fEE GTQyQ Q!FPVTTQE
                                                                                                                                          Y
                                                                                                                    ¨                                   Q
        QQ! QF ET T iQhgQ EQY HQxQ TYa Q H QQQE QH!T QGF ! QUQFP  TE QFfTYGE T QG‘  !
                                              T                                                                                          Q H
                                                                                                 ¦ ¨£¤
                                                                                        # ¦ § ¤ # ¥ ¢                  ¢ ¢§
                                                         ¡ ©   ¡ ¤£ ¡                                    ¤ § ¡ ¨©  ¦ ¡ £ ¡¡ ¤
                                                                                                                             ¤  ¨© ¢ ¡ ¡  
p#
                                                                ¨
¨                                                                                            ¨                                                            ¨
   QY!T H`EQQG` !Q QF QF T G!‘  TQ ! U Y x s FQ H HG  G E `  T Q  Q G TF  F
                                   )           (
                                                                         T  F G a Q ` Q !   e Q YF Q H H G      T  T Q    !   `
                                                                              ¨                       
                                                        0
 QQFGtQI!QGfF!QGUiQQTEGTFeGUaTGQ`QQYY! `QGEFQQTPQF!HE eT!YGTiFGhTYQgF YTQYGGF!!FQGHy! T!!TG``QGFT QQ QEF!!
                                                                                                                                                                                    Q
                                                                                                 @                   ¤
bbFFQG! QPaGEH QQ YQTGT`Q!TYT GGFTQGT QY QVYQGYE YFG!Q EQYFF HQET GF QU QYTG FQaE Q‘aG
                                                                                                   e                                                                           Y
                                                                                                 ¥    ¥
                                                                             7 A @ 3 6 5   5 4 3 ( ) ( 5 7 9 8   £                       ¦¥              ¦               £
                                         ¨
 b!G H TQF  s H G Q E QFFQ!G E  GQ E YF H E Q  I GTFGHiQ EQ f TYeFGGF F
                                                   ¨                          )               (
                                                                                             ¨@                             ¨
 Q!QaGG` QTQTTGFEGG`QQTEYF HQYEFTUQG` QYa¤YG  YGGV QQE! YF HQEGFQ ETU TQHPE QG Ex QQh Q
                                                                                                                                 
                                       ¦
                      7 9 3 ¢ 4 4 ( A ) 7 0 6 A 4 2 ) 9   7 3 9 5 4 3 ( ) ( 5 7 9 8  %  £          ¥                                     ¦¥              ¦
                                                                                                          ¡ ¤¨ ¢ ¢ ¡      #  §                                   
                        !   ` Q   Q !  T T Y TF G Y  Y  Y  Q E QF G e Y                                      G F Ga Q  T T Q TQ h
                                                                                             ¤
   Q a Q Q E f eFG F QTFGY Y e Q Qx IFG FFGg`hGiF GU TF HTEGQ QEPGx eQY  TT GQh
                                                                                         @
   Q  Q TQ  s QG Y TQ a T TQ !Q G TQF Q VT H Q VQFYIGYFeI EQTQ EQQFG!!YHTT                                                           ¨
       C                                                                       S
  QTGH GYH  aFYHQYVYYTGe!  GGgQFbTQ Q E faQeFQGT F UT H! EQQ QFQH E QQxHQ F TY GVhF H H G      E
                                                                                                                     ¡ ¤¨ ¢                 ¨
                                                                                                                                 ¥  §  ¡         ¥¤
                                                                    2
                                                              T ` Q  Q I E   G e  T  ! G ¤ T GVY T QF H !
                                                            1
                                                                Q
                                                                                                                                                        S
TQQF QT!QeUTQQa`TQ!a GQFQY!QQEQ EQQH UTTQQFGGGaQFeQEGQTa Q¤GHF TTQT!QaQeYHx!QGTQTQFQbF GQQE!fTQ‰TeTFGGTF
                                                               G                     ¨

                                                                                              x
                                                                                                                                                        Q
                                                                                                                                                           Q
                               ¨
        Q s   E G F   Q a Q H   Q a T Q !  Q  Y H x Q T QF T   E  Q U Q  Q   G   !                                    0
 bEG EQFTTQFFH t TQQ!YTGFGsY!T G`GQ ET FYHH UxQQQQE Ie EG T QQYF !Q!aQG Q TT QaG Y!Y Q IV                        Q
    #
                                                                                                    ¨
                     ¨
  GaG QG` FGaG  TT G !    QxTQIFF  e gI hiQ HGF QQe YVFQE QaF I GIHQ H
                                                                                            
                                                ¨
                                                           ¨
bFeGH TGFQ Q FQ Tf!GE HU QQVTYF  H QQ EQFGQaeYQGTTGFGuaGQ T F!FGGF! EQ ‘T QQF GEQ EHYEQ VY
                                                                                                                            
                                                                                 S
 TQFTHTQ!Y  TTGGHEU GQeT QaF! HQ TQG F eGQEGfQFb  eFG‘!Q` GGTF GQ`T GT GTQFE Q ‘PQ
                                                                                                                                  
                                                                             ¥ ¦¡      ¢      ¤       ¢ ¢ ¦
                                                                                    # ! ¥   ¥ § £    
                                                         S
                                       e    G QF b    !   ` G F  G H QF I G T T G    ! Q     T  G   Q
€#
 TP Q! QY H xQ Q   `  V U QeG T Q! Q   Qa T  QFF Q! xQ  G  Q QaGeT QH                                       R
                                                                                 Q
                                                                                                     Q
 TYYTT!Q e  H Q EQ  G e TT G G IGFG i Q  QT G E G E U QF I G Q eF e Y     QT  f y
                                                                ¨      Q             ¨
              TTTG TQ E f eFG TQF Q i h g TQF G a !Y   Q T Q  G f! TQ  Q  G E                   C¨
                                                               ¨                                 @
 IQ!GFGGTiG T !!GE`Q `HGHG IU TGFFY F  QQH!IQG H THQ YG HQe!GT QQ ! Q T QTY ‘TQ 
                                                                                          ¡ ¤¨ ¥ ¦ § ¡ ¤ ¤
                                                                                                                               ¤    
ed
                     6  c C 9 ( 3  )  8 B    9 P X U 8 B    9  % S c bT % C R  ' B  2 $ % C R   ( S ' B a 8 !  % % @ @ %  D
         1 `  '  % D 8 % @@ % 8 ! #  ! )   H6 F X $ P   !  6 4 X Y P ! I ) 6 $ X $ W ! Q Q 6 56 V
                                                                                                      λ
                                                         6 %  ( ' E C B  % D % 9 %  '      ( U T $ % S 2   ' B  @ (A @ % 9
   % C R  ' B  2  %   ' ( 3 ( Q 6 % 8  2 D ( 5 %  (     8 % ' 3 3   P 5  P I    ( ' $ #  ! )   H G D  '  9  'F
                             6 %  ( ' E C B  % D % 9   '       8 B 5 4  % 9 %  ' B  2  ( @ ' C  % '  3 ( 2D %@  %
8 B  D C 9 B ' 8A @ % 9 %  ' ( 3 % 8 7 6 5 4 % '  3 ( 2 ) 1 0 ) !   ( '    %$ #  !         
                                                                                        ¢  © ¨ § ¦ ¥¢¤ £¢ ¡
                                                                                                          ¤  ¨© ¢ ¡ ¡  

More Related Content

PPTX
Anatomia retina
PDF
Theroyalconnection1week hrh
PDF
Manuale pa
PDF
PDF
Témoignage, Facozinc
PDF
Twitter Make Issue
PDF
Revista Española de Defensa
PDF
EFI Booklet
Anatomia retina
Theroyalconnection1week hrh
Manuale pa
Témoignage, Facozinc
Twitter Make Issue
Revista Española de Defensa
EFI Booklet
Ad

Race documentation

  • 1. E D D C $ #" $ B 3 A @ 9" 8 ' 7 7 ' 6 5 " 4 3 2 1 $" ' ! 0 #" ) ( ( ' & % # $ $ #" ! ¤ © ¥¥ ¨ © © ¥ © § ¨ © © ¨ § ¤ ¦ ¥ ¤ ¤£ ¢ ¡  
  • 2. 3 1 21 0 ) © % $ # ¦ © § ( § ¦ ¨ § © ! ¨ ¨ ¦ © ¨ ' ¨ ¥ % $ # ¦ © § § © © ! !§ ! ¦ © ¨ § ¨ © © ©¨ ¨§ ¦ ¥ ¡ ¤ £¢¡  
  • 3. 3 p3 G Y F Q Y E TY t T y EF! X R c W Rc33 QTTQTHa GGFF QQ YY E TTYY X v# cc WW ‘ RR#333 GYFY!G!GY FF QQ TT GG !! QQ ‘ 3W cciWW ##33 ihg G H QEPF!IGQH  GGTTFFYY i Rc WW Wv33 G Y TQ Y TGQTFQYTGi‰ v# WW ‚W3$ ! ! G!QT Y H Q X W W 5 3 W 75 ˆ 0 … 0'‡24@6 6'0)82 0' 1 8@76 08‡ @'75†7 4…80„9 ‚ ƒ 33 T QY T H H TQ a G i TFQ T!Y h QTFFTQT!Q!s gd TQQ!QTeFFQTQ xwQ # 3 p€ Q a Q QTQ VyFt QF H E Q x w v 3 qH p G F Q GY! Q QGFHGuQGPFQG Qf!GQfY!Q Xt tss rr q 3W WW 33 cp bH Q VF HU iQhG ga QTQ !F`TUYQPQT!Q UQVTTTQGHFEFTGQ!EEXf We3Fd3 W 3 F Q! Y R TQ VF H Q T T G U T ! G U TG S 3 3 3 CR B0A )@ 9 8 'Q7E 6PF6I05'H5 1 43 '2G'F' E0 )D( '3%3 $ 1 # ! 3 ¦ ¤ © ¨ ¡ § ¦ ¤ ¥ ¤ £ ¢ ¡ 
  • 4. W Wv 3v  QT G HT  QT Q ! Q! G E  GEG`Q ‘Q EYWF H 3E R W R 3v $3 v £ x IF GF Q FY E G V g 3 3 R £§ „ 0ˆ7 00 ( 3 9 @7 8 6Q0E‡P@F I) 057H4 …@ $G 60‰5' )3 R C 5 vv ¨ TQ T Q! TQ!xIGF E TQ gQh HiE G!F QQ QTgG ! s3Wi# W # €Wv QTQeHGbTee fIQYF GQHQ eQGTTG`H H QQETPFFIHTHTQQ ‘ Wv 33 ## €€WW ‚ T !G H Q TQTT QGE PFFIYE HG TQQ‘ 3 3 # § ‚P$EQ60g5' )3 #   p WW ¨ ¨ ¨ 3x 3GETQaGFTQGTe IHTQ TQQ eEP3F I3#gv R v ¨ pp WW ¨ G H EG G! xQ G Q 3€ ## vv ¨   cp WW ¨ T xTGE Q HT EG! p ## vv G ¨ ¨ ccWW ¨ QG T e GT QQG QQ!QGe Rc ## vv ¨© RcWW ¨ ¨ GQFQ!!GQ! G GF HT! G v# ## vv ¨ ¨ ¨ RR WW ¨ ¨ ¨ QQGGTT E TQ` FGTaQ FGaQaQe! 3W ## vv 3W v#WW T T!`!T Q`TQ!FGGQYh v# vv 3W $‚ § ¦ ¥ ¤ £ T$QY $TF605 'T) B! ˆ@`7‡T!Q@9Q T‘@ 8 03W vv W T ! Q ¢   €3 ¡ Q !G EGF y tQ EP F I H TQ VTYg!QGGY!YTQ!HGHEQ T Q F W!FpGyW W   p33 T QTTQ!! T TQ F !F G y 3 p W Q !G EGF g tQ EP F I H TQ VTY!GG ! T Q!GETQT FG !F GQy p W
  • 5. v C ¥ ¥ 5 † @ ) 057 ˆ5       € ## Q T F ! y R Q V Y Ye G T QEYIF H ET G F WTvYX #  pp ## ¨   Q FI E G QT ! GF Q YF G QEYFGHEQEY3F H vE v       ppc ### GTFY i W   ¥ ¥ ¥ ¡ 65 6 )Q@ V7 Y f…! Q‡H5 )T 0d 7 @3% © R# Q Q V Y Ye G T QEYIF H ET G F WTvYXp # p RR ## ¨ #R ## Q FI E G QT ! GF Q YF G QEYFGHEQEY3F H vE p v p § 3# λ $ ¦ ¥ ¥ ¡ ¤ Q V3Y fG…F!YQ‡H5)Ti 7 @3W%pp T 0d €v TQa QFFQa Q TQa F aY T YF ITT g R c p€ vv QQ Y!Y H TQa GTF !QaGG !TsQYG HEETQ! T`Q !GFG EHG`!YQX v# cc g  £ cc vv TY H HG TQ EQe G f! T Q G QTY g W c £ ¢¡ § ˆ@7‡ @ 9 ‡5) † ' 7 ' 6@ 8 8 0 1 2 8 ) 2 ‡5 )1 44)! $605' )3 c   Rv T F ! y # R v#vv TG F TY TQ Q G QEE yQF H E3Q vxwR v R Wv vv QEQPF I! H G ! sFTYi v# WW RR X WW vv G Q E YF HE T Q!E PFIg 3W WW RR
  • 6. # x IF λ @ Q S 2 1 Q R !gGQhaGiYTGVFUGQeFEGG`TQQFQb a TQQFFFQQaTQ UT QGEFh TQGQFxU TY!GGaeGY FQFTYQ QQ aTQEQfTYeQFEG YxF H E © G IF GF T G TG T xQ T Q E fQ eF G T QF @ QGTQFQ EQQQHEPFFI H HQF xF ITF Y Q UgQFhFi QGF YGse Q E xU QFQFH!G TQQE PGT eT QTQ ih gTY YF 0 g a UQQTEI!QTETG GQTFTY! QQ TQQEEPfF IHeFGQF TYQQYEYFH TEQF GQ iThE QTQF Q!QEGQHQT GFTEGGh` YY G Q eG T E Q T H H Q ‘ i h g Q F TY GF Q G QT Y H Q ¨ Q B UGIF GFGGiQTEQ H TQQ EIYFQY QYHIHEFQaYGGQQT! F GdXQ !F QU xdIF Yg h i GF F P ‘ G! s GF H Q TQ EPF I H TQ QY ! T GQTY HQ U T GF!HQQ U TQeGGF HTTTQQHQ 0 TbHGG U QFIGaGQ!TsI GFgQ EQdFFQQG H G!sQ EGQFgPF HGFEQ! THQEEGQf! TaQQY Q QG!sQY!YIF t $ 8I H QG` Q H i h g TQ Q YG! QGF EQY YHG G U Y VF H H G x GaG TQ y 2 1 ! G F E ! ! ! 7 ! ! D T E ! G F T G Y Y Q E QF G U i h g GF T QYTG I G! s GF H GF T dQ QQ TG!QQF!Y QxTFGaG TTQ!Y hGGFHQ F HQG ‘Y f C B T QFFQQ V TYYTTFT!QY QQQ EQPFFGIeY HQa TQHG T QTHP EQ! T Q TG !Q GV TTQ QQHa E A ¨ bTfQT Q H E !Y Q Q E E T Q G QTY HQ Q G YF G QF I G Ga Q  Q VG EY © @ 9 ! 87 6 5 GFQE QQ!GQYHGTQ F GQT QT EHGQ EQQPH!GFQHF UQ EV Q V HF H U QYPxs!`!GQIQ! FQ $ ! 3 4 3 2 1 T F H T T!Y GF HQ TQQF efP!Q f!QTGFtH QQ VTQTfG!F!Q f!QGQ!s GQF HEGQF HT G!QUyQ VQF HQFEH Q xQT 0 TGQH YQTFQF  T TTQ!Q!Y`Y` HTQTQFQQYQF IGIQ!HQFT Q EQI!F HTxQ TQQTFYG a ET QY!GF T!QG` ¨ ) ( ' $ GGFT Q YQFTYQfd GF QQ Q FGVHT!TGF! H QHHG‘G! sTQ Y GFHG GTFQQP QEexG GTHQ ! G T !Y h Q % $ # ! © QYTG I Q EQPQF !GGHH E F HTTGQ Q! F T!G G G ! s GF H GF Q Q YG F‘ T T ¡ ¤¨ ¢§ ¦ ¥ ¤ £ ¢¡ 
  • 7. R pt (st+1 |st , at ) st+1 st FQ ¡ TQ ¨ Q at t st ¨ ¨ 2 FT G Q Y F IG I H G ‘ G T 1 t+1 st+1 G ¨ Q!G QGQYHYV!F HHGGY F QUHihY!gFG FQ TQGhGYTGFGUTTYHEQQQ TGTYFTQ!G GQQT QEFFQaYVGTTTTGTeTfYQ!!YTH A S TbFGIGYIQH!G HQ TQ T  YIT Q TT G TG E U T !G QF I E QT Q  Q ¨ ¡ © QEPTT!T TQ QG!YTFTQHsEQE QGaV TGGf!!FHTHTG FTTQ! HU G T A = {a1 , . . . , am } ¨ S b 2 A Q VG f! TQF IG!F H HG T !G TQ QF I EQT Q F QQT Y H QH $ $ $ $ ! 1 ¨ © G ! $ 3 $ 8 IQTTTG QG` GQH U !YD TG E U GTU Q VGC f! B Q E YTQ !YYVHFITGIQ!YHaTGQQHT © bITQ Q EEPPTTT TQF Q VG YQaF TGG! FQ QVH GFU TBH EQ B T © S = {s1 , . . . , sn } ¨ ! G Q E PT T QF U !G H b EQHF TQ VTTGY TFQQF VGGU QTsYTHQGYs QQF IF IEEQQTTQQ TQ ETPQF I H Q T G ! QF T G hT 0 7 A @ 3 (3 9 4 8 ( 7 0 5 4 3 (3 0 5 ) 6 ( 1 0 5 4 3 ( 2 ) 1 0 ( ) ( ' % % % r ) ( Q G Y E E Q T Q H E ! Y Q ! ` Q Q T G Y Q Q T G Q p A © S S, A, p, r QH F TYTQGFaYIGTIQGiF IGQEQTTFUQTQQFFIQG!TF!QHYTYHhGHTQTTTQ!$!G gUTQ QFUIQ EVQTTTGQFF!QFHUQGEFPGET VT ` GT GTTQHFGIhTT!Y H # ! ¤£ ¦ ¥ ¡ ¤¨ ¢ ¦ £¤ ¦ ¡ ¤ ¥ ¦£ ¤ ¦© ¦© § © ¦ ¨ ¦ ¦ ¤ § ¦ ¥ ¦ ¤ ¤ £ ¤ ¨© ¢ ¡ ¡  
  • 8. c U¡ H 7 ¢ $ ! $ 7 ¢ 3 $ 3 3 %   D © Q H Q TQ fQY TEQ ETQfGeHFG TFQ‘TY Q EQ VTT GF! T Q QDE PF I H Q y δ ∗ , S → A, Vδ∗ (s) ≥ Vδ (s), ∀s ∈ S, ∀δ ∈ AS 2 W 3 1 Qa t Q!Y T Q H QFG E H Q VF H Q  Q f!Q f! Q GF Q Q E PF I H Q ‘ s0 δ τ @ G VF H HG Q TQF ITT H TQ!Q G TQF TQ FGTQTHG Y FG QY QGQG HE GQF © t∈H γ t rt (st , δ(st ), st+1 )] Vδ (s0 ) = E[ 2 3 3 1 U ihg δ ¨ Q t Q a Q Q P ! Q ! ¨ 0≤γ1 V (τ ) = t∈H γ t rt (st , at , st+1 ) ¢ ¨ T G QT VTFH H!Q Q eQQYa!T!TG aVG i Q Q G f! GF Y VF H H d γ 5 H t∈H F Q Q EY! ` TG H Q eQatQ!YQYQHQbY!QYEHEQET EFT GF F H sQTFT Q  Q GVT ‘! TQ rt (st , at , st+1 ) G τ = s0 , a0 , s1 , . . . , st , at , . . . , t ∈ H V (τ ) = τ @ C t Q !Q G Q T QYTFGY t Y e Q Q H QT Q H E !Y Q G ‘ s t s a ¨ 0 A rt (s, a, s ) rt S × A × S → t ! 8 3 GY F T G QY !Q Q YY G !G F QGVYTFF TQ Y f!Q H IQYTGQGH EQ !Y GGFT TQF ¨@ sY UX!Y Y tT G Q QFP E ! T`F HQ Q U QiHhgY Q V GT f!G h H ¦ 79 ) 3 ( 8 4 © 7 A @ 3 (3 9 4 8 1 6 A 7 9 ) 7 5 4 3 ( 2 5 4 1 7 6 (3 6 2 1 7 0 5 7 8 4 2 % %¨ § ¦ ¥¤ £ t G ! GT  F Q TG H Q H $ $ ! T Q Q V F H Q ¡ 7 ¢ $ 8 ! %¡ QY YFQQ H HQFFQ VT F ¨ δ : S×H → A ¨ ¡ G T!Q G`YQ Q VGQf P!!G!GQQ!  GTT QT © ) ( ¨ Q VG f! G! TTG GQUaQQE PiT hTg QFQITT HTYGQYVQVGGaf! T QfHHGQeFGGEG H HQF T G !TG QQQaGTQaG T B S C H⊆ B $ t   $! S FGQUYYreTQfQYTTFQQTHTTHQTG!TQT!HQQTHF TUQTFQQU!PsHEGTGQTHQHGrYTGTfHQFQG Q H Y QFQsIETQQTFFQQ‘sGQ Q H t s0 , a0 , s1 , . . . , st−1 , at−1 bG H QGQP aE GTG H Q Q HY Qa Q H T G Q TY F I G I H T Q ‘ GaG @ pt (st+1 |st , at ) G F E YF IG I H GF G V U Q!Q GTQ GQF QVTQGf!GTQTH YTTQ! THQ
  • 9. p s ∈S p(s |s, δ(s)) · (r(s, δ(s), s ) + γ · Vδn−1 (s ))∀s. Vδn (s) = 2 c 3 1 Vδ0 (s) = 0∀s, G ! ! 7 ! $ 3 4 8 8 © © C G H U Q xQF H ET Q Ht Q Q fY E Q G H FQHTY QQ ` G QYH QQEEPfTT eQFyG © s ∈S p(s |s, δ(s)) · (r(s, δ(s), s ) + γ · Vδ (s )), ∀s. Vδ (s) = 2 R 3 1 © t T G VY Q E P T T QF Q sYa Q T H E Q s δ Vδ (s) 2 1 ¨ U TQQGGQHGYT TQ ETPQF IQH TQQ VFH H GF sQ QrFGa fU QQTVT GHQ  EVT Q‘H 7 A @3 (39 4 8 ) 9 7 © ¥ © ¥ 5 43 ( ) 6 ( ( 7 6 A 79 ) )9 7 5 43 ( ) 6 ( 3 5 53 5 4 3 6 4 % £ £ VN (s) = 0, ∀s. ∗ 2 # 3 1 s ∈S a∈A pt (s |s, a) · (rt (s, a, s ) + γ · Vt+1 (s )) ∗ = max Vt∗ (s) s ∈S pt (s |s, a) · (rt (s, a, s ) + γ · Vt+1 (s )) ∗ δ ∗ (s, t) = argmaxa∈A δ∗ C ¡ s, t Vδ,t (s) C U sQ GEF QQaGGYGQHYFQ!FG!Q EQQaEGQFGYeY Q QH H YFQFG!FEG ! QH QTVtGF HQTHQQE E ! Vδ,N (s) = 0, ∀s ∈ S. 2 v 3 1 s ∈S pt (s |s, δ(s)) · (rt (s, δ(s), s ) + γ · Vδ,t+1 (s )), t N, s ∈ S, Vδ,t (s) = t s δ © ¨ t Vδ,t H = {0, . . . , N} F QGa QFTGTaGFG VYQF Q!EGP!T TQ H GQ!Ues TQG T  F G Y $TQG ! QQF VTGFhH GF © § 5 43 (2 A 53 6 ) 8 7 6 3 6 6 ) 7 2 6 7 2 7 3 5 5 4 3 6 4 % % ¤ £ © ¨ ¥# ¥ ¡ ¤¨ ¢ ¦ ¤ £ ¥ ¦ ¨ ¥ § # ¥ # ¦ ¥ ¥ ¥ # ¤ £ ¢ ¡ § ¢¨ £ ¤ B 7 $ $ # 7 ¢ $ D $ $ # Q E EG ! T F H TQF TQGa  T !QT GF T G TQ a !Y T QF T TYTF
  • 10.   n n=1 Q VTQF VQF QHFGGaF GQF QGYGY QEQfEfeFGe FFGQ Fa QaQQ U s  F TQQaVTQ‘ ) ( B 7 G $ $ # t TGQQEe fGf! eFGQ xV QQTEQ!QFGQeaY TQ Q H U TQ HG Y Q I E Q QP E G G H QF 7 ¢ $ 8 $ $ # ¤ ' 3 7 ¢ $ 8 $ $ # TQ E f eFG TQF Q V Q!G! Q T F H Q I T Q U G F GaY QT G f H GF Q n 2 1 7 ¢ $ 8 $ QTTEEGUY3eFG F QUQI EVG Hxw f!QHI T!QQHaGGYU  Y EF Q I E G Y H Q Gf   $ # ' 3 7 ¢ $ 8 $ $ # 2 © 1 ¢ QcE fQaTTeQ!FG! F TQ FYGEEG xTHHGG GVEYYf!QTEQPF TGTTF Q Q E f eFG ‘ 2 ¨ 1 F F T Y QT Q ! δ δ G 7 ¢ $ 8 $ $ # C QTTQQI EYFGGeYYQFH TQTPQVGf! TQGFEYUYeGQ QeFYQEG Q! EQQETGffHeFGeGFFGF QQTyQH HGGQ T QTQPVG!YFQ ‘H a f s ∈S a∈A p(s |s, a) · (r(s, a, s ) + γ · Vδ (s )), ∀s. δ (s) = max 2 1 € 3 Vδ (s) ≥ Vδ (s), ∀s 2 1 ) ( δ δ Q VF H Q Q Q VF H GF Q E `T Gt $ 3 £ QT G fQH GQ‘FFQcE 3 δ $ 7 G £ $ 3 £ QTG fRH3 GT‘Q E QfG eFG! TQQ VF FHGG aF Q QG ! Q V F QH GF Q F GaY TQT G f H Q $ 7 G £ 7 ¢ $ 8 $ $ # ¢   Q! GHcQ3FGGEF YfQ!TQTT Q! EFQUFGeQYEQYTH!TYHT T F g QF2G E5‡5H7 0 †Q @V7F8 H6Q0QE5 ‡f@)Q4F‡eF!GFG‘! s ∈S p(s |s, a) · (r(s, δ(s, a, s ) + γ · V ∗ (s ))∀s. δ(s) = argmaxa∈A 2  1 3 B C ¡ Q V T QFGa GF Q F GY Q E f eF G F H G T Q P! n QQ QQFI E QT QQG H QGTFQ!QGTE xGQEG ET H!GQ TVQFFFQ HV Q QGE ` p 3 QTG xQVYFF H ¨ s ∈S a∈A p(s |s, a) · (r(s, a, s ) + γ · Vδn−1 (s )), ∀s. Vδn (s) = max 2 1 p 3 Vδ0 (s) = 0∀s, G 7 G $ $ # `GY G EY f!T Q EQ ` TP Qt HQTFGE TH Q V F H Q QF !QFE!f eHF Gc‘3   n n → ∞ Vδn → Vδ Q QY I QQ Q Q! Q eQa ! Q QTTQ a !QaG) 2 7 @B @7 U 8 6 05 ‡ @Q) 4V‡T ‘
  • 11. ¨ ) ( nt bQ!TY!HQQU TQUQFITGTQGFa QQETPFY VE! Q GQaQHT EQ!U QTQa! !GGF Q QGIYE Q! QaQG‘ yt+1 = yt + ayt . ˙ ˙ 2 3 3 1 xt+1 = xt + axt , ˙ ˙ yt+1 = yt + yt + ayt , ˙ xt+1 = xt + xt + axt , ˙ T t Q a G F Q Q (0, 0) E Qa E p (axt , ayt ) GQFF TQQ!QU a YeFTIQGIGa H T!QTaGQG UVQTY EQT‘GQT EQTIG T QTQ V Q QGEGEEE G!F 1−p 2 ! p ¨1 ¨ QU EPF I YHFIGIQHT QG! !QQaG U! a hGF QQF HTEEQTxQGG HTGQH TaQ GF QQeGE EG!F HGGF U V GY (axt , ayt ) ∈ {−1, 0, 1} × {−1, 0, 1} bF IG I H Q GQ! Q !QaG V YT H HYGYGYFFY!U!GGYFG Q H Q g ¨ 2 Q ! Q a T f! Q QF I T 1 ¨ UbTGHF aTQQ F THG T!T QQ VGGHf! QTTUQQaEYTQ!!YQaH QTF FQgsE QGYQFYT!T!G ! TQF I QH` TQ (xt , yt ) ˙ ˙ (xt , yt ) 2 1 2 1 st t bTTH!GGTTQ‘G H YQTY HTQQY TQ Q ! aQTGTFQQ a GT QG Y F U tG TTQY Q VGf!! d TQ a Q QT ! Q QF H EQ xQ F Q !! Q ‘ t 3 3 Q e D 2 ¨ ¨ 1 G HY Q Q eF GF !Q! FQ QYQaQTGYHQQ e3FRGQF U Qefs! GG‘e T G!I ! Q QaY TTQQT @ @ bTTQVFQU QFFQT V GaF U TQQTQaQTYFFG!iGQ TVFQQGHFGTH!EYQhT TQQFFTTQQQ!`Qg TQ eQTGTGQF!EQFQQFFFHQQETQ IxFQGFf QTg QQT £ ¦ ¢¨ ¤ ¥ # ¥ # # ¥ ¤ £ # # ¢ ¡   £¦¤
  • 12. 3 0 £ ¨ £ © % ¤ £ ) ¨ ¤% ©¨¨ ¦ ¥£ ©¨ ( ' ¨ ¨ £ © ¥ ¨ £ ¦ ¥ ¨ ¥ £ © ¥ # ¤ ! ¦ £ © ¥ % ¦$ ¥ © ¨ ! ! # ¥ ¨ ¤ ¥ § ¦ § © £ ¦ £© ! ¨ £ ¦ ¥ ¦ ¥ ¤ £ ¥£ ¨ ¥ © ¥ ¥¨ £ ¨ £ ¦ ¥ £ ¦ § ©¨ § ¦ ¥ ¦ ¥ ¤ £ ¢ ¡ Nacc © TG H QQ EQ H Q TQ VTTGF! TQ E f eFG TQFT Q VT H T Q QG T F T P T C TQQGVVYTiTQGFhFF!gEQQeVGE!aGQQFThGFHQG!EHEEQG!e gQQHGIFQQihQga QQE‘F TQQ‘ QT3YH GQa T QQa VT TF T Y QTQa !Q GFQ E PVF IFHHQG‘F Q Q B bF H QQFGa QGFTQxQ FVGTYFUT TQEEfGY eFG TsQFT rH Tf Q YQTQF s T QQFFGGaQ QQPV! t=1..∞ rt (st , at , st+1 ) B U 2 ¨ 1 ! 3 3 6 QFQQ VVTTFFQGEQYYa!QP`GTG!HQQFeTFQQeGFQQaT fE!!xGGQE` TQVHTYTTQGFF! TQTEHfEQQeFF GQPTGQF!FQGTQY‘YHYQe α Q H ! GF GaG Qa QT V Q EQ!GF HY Q! Qa QYaGH QH eGFF GTFQ Q α · ∆T = rt (st , at , st+1 ) QYaG Q eF GF Q H ! Q !Q G GF T @ Nacc T∞ = rt (st , at , st+1 ) U T ` Q E P G F H ! ! QF Q H ! Q ! Q G G F T @ Tacc = rt (st , at , st+1 ) U ! ! QF Q H ! Q ! Q G G F T @ ∆T = rt (st , at , st+1 ) U QYaG Q eF GF !! QF Q H ! Q Q !Q G GF T @ rt (st , at , st+1 ) @ ¨ ‘ © © `!Q I Q! QTFY E GaQTt U TGQTHQQHEsY!YTQQ QF P E Q QT HQEHE! Q!YGda ¨ @ bQQGQHHTYG TQ!FQHQQQeF EQF YPGaFFIGHTQQVeQFPF !GFFQEQVQFFFGUQETPHTQTQQQQVIG EQ GGTHT Q!GQF`FIQ!TQT IHU‘TQE Nacc   TQ !!G QGIIETIG QFGTY QYaQGG Q QeaF GGFF U f! GQY` x s QQ EFaQ GF QQTTVGTHY‘ ¨ nt+1 = nt + 1. yt+1 = 0, ˙ xt+1 = 0, ˙ yt+1 = yt , xt+1 = xt , nt t Q Y T F I E E T Q Q a G F Q Y Q E (xt , yt ) ˙ ˙ (xt , yt ) ¨ 0 QbY!e  TQ QU!Q a!QF!Y QPGT` GF Q H T!U Q Q wTQQY a GF !Q Q T QFQF Q QaY
  • 13. 33 G2 Q ¨ G 1 ¤ TQEQYF! T FF QETGQ VTFi hVgQ TQFFUQQ EQFQGFFYGYQeTGFge TTPQxQQF HET QETPF IF HHH TQ!F ! • ! $ 4 © bbbFGGQQ IIUTQQEEQPFFFIQ HIGTQfTQTTGF!YYQTEQ HTQQGQYQTTQQeQGEeQGHGFTQQFVTQY HVQQGYQ!sEQTFGPFTfHFHHQHTfYT‘! Y ) ( TQ Q TQ! QY`Y H TQ TQaGFG V T TQGF IFGa YHTT QT QFT TQQT!UGTQTEGQFG eY! 0 bT! `G g G Q EY H xQ GF ET G H U Q E Q! Q  V QF ITT Q! 2 1 • 2 0 1 G QTQG `GQHFP Q! EGTQT!GT`!G HQUQ QQQwY!YTQHT GQFH QE!QYUQTY T QGTPfQFHP fE © ‘ • ¨ b Q VG f! Q E GY F Q QPF H E! YF IGaQT I  QT P f HfG‘T © U T G EF TQ! EG g GQ!  F T G G! s GF H Q T Q E PF I H T Q tTGHFH! ¤ B TGF QQGETYFQ QQIQTEFY EG Q! H UTGT ETGY QTQY Q GQFT QQFPP QE T QG! QTFQFQ !QsYfd Q! Q EeQFeFQGFrQTQTGGTQQT! T FQTaGGiTGFQ!s GTF H!YGhF T THTQQ!FPg ETQQEQEG!! YTQ‘H E ¨§ ¨¢£ # # ¢ ¢ # # £ # # ¥ # § ¥ §¡ ¨ ¢¡  ¡ ¤ ¤£ ¥¡ ¨ ¤ £ ¡ ¡ ¤¨ ¨ § # ¥ ¡ ¥ # ¥ § © ¥ ¥ ¥ # ¨ ¥ # ¥ ¥ # ¢ ¡   ¦ § ¤£ ¥ ¡ ¤¨ ¡ ¢ ! 7 $ 7 $ ! ! $ $ ! 8 !   ! 8 3 $ 7 ¢ 3 $ 3 3 % D D ) ( t QFFG Q G e Q i h g Q Q HQ Q ! Q T © © QbYFFQQG HYGFQ IEGaQHQT ITQf ! HHG GTFQ HQ xQHT!TQG!FY G aT UYTih gT PTQHF dT G TQ VFQ V Q GFQ G QF IG TG T H EQ Q QFG E HT GQYV TF QHFFQE QQaT Q GrQ
  • 14. W3 © QQPG QE QTQ UH UxQGQGaaTQGPFQ!HQQGHTYF QY HTHTTEQ T GG bGQ Q YGF UFQIF GGIYYHe QTF $F H QYaG¤QeGGHTY aQQTQeF GFHQT e GUQTEFQTWdb Q TQHbTTH fGF QQ e eGG TTFFTT 3 bb × B bYFY TQF i Q!G E Q G H IGFG i T T YQTY HQ TQ t ! !T TQ‘ Q E ¢¨ ¦ § £¨ § ¦ ¥ ¡ ¤¨ ¢ ¢ ¡ # ¥ § # £ ¡ ¡ £ T Q T H Y Y V G TF Y E Q T T ! Y ¨ C xQGTFQY QE!TGF Q EPQFIIrHQTTG QQEEHQ!T QQFYIE! GQF QTQ E!QFG !F GQ` QQF HHEQx QV‘T H TTQF ! Y Q HG f! Q y T T Q E ¡ ¤¨ ¢ § ¦ ¥ ¤ £ ¢¡   ¡ ¦ ¤ ¦ ¥ ¦ ¤ ¥ ¦© ¨ ¡ ¦©£ ¥ ¦ ¤£© ¢ ¦ § ¦ ¨ ¨ ¡ ¤ ¦ ¨ ¦ § ¡£ ¤ ¥ ¤£ ¢ § ¤ ¢ ¡   ¤ ¨© ¢ ¡ ¡  
  • 15. v3 × × × × Q R R U R W R W U 3 3 t TQ aY H YY ! ! Q T QFF GT QTTG !QT3F g 3 T 3 G H ! GF I QF Gx QTGYEHQ` !GTGQeTGQEP !QGGQ!!I GTQQFGiQQEEQQ!TGTFeHQEH QEX bb w b ! ! QF Q ! © tQGF IGaTQTQP` QGF E$ G! GF I Q HG E I Q e G E Q  G Y y b × 2 1 bbHGHQETGTTQFQFG TQTQVGHHTQU TEQ!PFIGE TTQQ U TGHQTEYFQYTYH3Q¡ 3 GY3 TQ T!FH! TTQQ‘ G HF Q Y Y! HY G U QFF G H g QTT GG H ¥#§ ¡¡¤¥ ¥ ¨ ¨ ¥ # # ¥     ¡ ¡ R x R ! ! t 3 W Q e D
  • 16. #3 2£ ¡ 1 ! G Q F I G G a Q F Q T 2£ ¡ £ ¡1 ¨ QG Q dU d !G Q Q G Y QF IGGa QF QT Q Q uU uU U ¨ !Y G E ` QE Q E TY QaG ! G` T F QT E xG E ¨ ¨ bQ fEQf`! GF TGVhQTQQTH E!YE Q GQf!!Q f!` Q VTQQ y GUi h gG TYQ QFFQ TTGGF F × × ¢ × × Q T ! TQ d ‰ ‰t y Q!G E Q  Q V T G U T ! G T Q QF I! E QT Q F d ¨ gQ QTGQYY TQ QGF IF EQTQQaF QTQFQ‰ T $ idh g‰ Q ‰tQgE!PQF IaG H T G QGF QE`G E‘Q G ©¨ ¡¦ £ # ! ¤£ ¦ ¥ ¡ ¤¨ ¢ ¥ § ¡ ¨ ¥¤ ¦ ¥ £ ¥ ¡ Q 3 U 3 b ¡ d T !G TQ T TG I E! TQF T Q ! 3 T TQU 3F Ib¡TT dH ¨ ¡ 2£ ¡ 1 T Q H!G€F QTQ ‘V QPGTT!Q VG f !Q Ya GFQQ QGGYTF Y!H!E ! QQ!VQGafQ!F Q dF U aYdQQG` G C ¨ b FaYU  FGQHFGT¤QYQTFYYFY!!EG tQT YQa Q HTGT! G TQ y TQFIGTFTaHQT H !G! TQ ‘ Q ¡ ¤¨ ¢§ # ¡ ¦  ¥ ¡ ¤ ¨ ¢ ¨ ¥ § ¡ ¥¤ ¤ £ Q Q T T Q a G F u b £ ¢¡ ¡ ¢ TQY TQ Q xG F FQQT QTTQTa HGFGF ubb £ ¢ ¡ t TQGaTQTTTT!QTFIIGGTQGa QQx GG F V TFQQFT GH YTHQT YGF H Qb C ¨ © Q GT !! G QE HPHTGT GH QGF Y!‘fYa !!G YG F GHH HY GE TY Q ! Q H Y ¨ QQTTQYT QG ` VQ GI EQF T`GF UTQTV!YYT T!Q GgQTFEEH E TQHfEQQf! QU QF I!E! G G H QF !!f Ya G Y F TQ C © bG` GFQTU i h!gQ TQQFF HT EGQxQFGFTQGEhG `TQIHQG! ! QT!Q QQEPTQ T Q G e GQ IY ‘! ¢ ¢ § ¡ ¦  ¥ ¡ ¤ ¨ ¢ ¨ ¥ §   ¡ ¥¤
  • 17. R3 P¨ F i Q ! G E GF Q T T Q E Q ¨ £ ¡ B ¨ xTQQFG QF!IGG a VQ Q E EQ QTF IQFITGQaGa xTQ QTQGF EY Q`ET GG! G‘ TaGT TH Q ! P¨ T buY!QTQ!uQ!aT QF!FTGQF aTTQTEHUQQ`ETYFYGTETFQGF TQQ!TiQQ!TQF!G xEQQF Q EQFG!TgQa Q G!QYaGQ!F Q B ¨ G F Q ! Y T FF G T £ ¡ B Q Q Q Q E TY a H T FFG T YYHFH QiQ!Q QQ!YFe IQFQI!GGGaEQFQ QT P¨ ¨  QY!EQQQTaQ! !G!Y ‘ TQ!QGE GT‘QF H Q!!TGQE GF T T QQFTI HGbTQTfY HTQG TYGTHQFTQQ V 2£ ¡1 ¨ QQ UTYTQ aGQ U V Q!TQUFTHYF!ITTQT HWT!G HQYTQQFQ eQFT HQGFQ TTH TQG YGTHQYFQ Q V ¡ 2£ ¡1 TQGeEF UTQYGYETQQF QQEG eF!G EGG Y Q H Q E QFGeHYTQQT!xQ FF QQ T HU GF QF HT !Q  Q!T HG T 2£ ¡1 bbGTE fQ UQ!GQHY Q QeFQ QeQFtFQ!QQTYTHQ!QT TG !xv GU UQ QQFaHQ ! QQVG f!TQF IGgG aQ!TQF £ ¡ C £ GU ‘Q QVTYTHGF! GTgQiQ!aGGF EQGTH HU GaF GF QQU QTYYH QQT Y HQQ TQTQQFEI GE GbQaFFTQQ ‘QT H Q ¡ 5 4 3 ( 3 0 4 8 ) 9 7 A 0 £   © ¥¦ ¥¤ £ B TQQF!FGT TGU QU TQVTG H QTtQTTHQHYEaQQ WQQT QT!QGFHITGGQ!sGaFTHQTFEQIFGTTQQGaQT!QFUQGQ HEGYTYTFTGYHYFTEG QQTYP ET QH! F 2£ ¡ £ ¡1 u Q E TY Q Q EPF I H G QTTQY T QFGIGQGaG QEF TQTQFFG T Q u B ¥ © ( ) ( ¢ 9 7 0 ) 2 7 ¡   £ £ → → → 2 1 ¢ € 3U 3 # 3 bU v 3U 3 b ¢ 2 1 ¢ 2 1 → → → × ¢ 2 1 ¢ 2 1 £ ¡ £ ¡ QWQ dU3sbQY 3Qd Q3QEUbT3bTYt!QGG aQ QFTIQQEFQaTTYQ QQTQP fG!EQQQ ‘UTHdE Q TQQdQEF IQG HdGaQ QTFGQTh!Q` ¥ ¥ 5 4 3 ( ) 6 9 2 2 )¢ 9 7 0 ) 2 7 ¡ %   © £
  • 18. c3 ¨ £ ¡ ¡ TQ UQT QHYFGFI Q!HaGET Q FQ!Q Qu VUuQ QQEGQH dT GT QaQU QTY sTYaa THQ V X 2 + V Y 2 ≤ V max2 × TQF ¢ xG Eut xG Eub¡ ¢ xG Eut xG Eub¡ T T QE GF QQ GF T 3 T T Q EYFY ¨ B u i Q !G E Q £ ¡ b!! TT tQQHGTF E T T xGTTEQ!uQHFGE xTGEaQTTTQT a Q U uG QQ uaQGEF QT YV T gY T © ¥¦ 7 0 0 7 ( 3 ) 9 7 A 0     ¥¤ £ Q F I G G a Q Q Q ! Y Y G ‘ t W W Q e D V M_BOOL . Position_Index . 1 . . . . . . . . . 1 1 27 14 . 1 5 . 0 4 . 1 0 1 0 1 0 0 .... 0 0 0
  • 19. p3 U QY EQ QT ! G Y F QY aQ ¨ © G T F Y E Q x f ! Q F F Q T ¨ T U YFG Y H Q ! QaG G HY Q Q eF GF 0 Q QY U QQEGQ QtT GQFQGTaQFQFQ VG! U $Q QQEHEE! YQHY U QTTH! GFTQQ  QQTHbTTQfGaYG F‘ T ` @ ¨ x Q TQF Q G QT QHQT G`!FGFTQGEUsGQYQTQFHIbGTGfa tQTQF ITQT THYTTGY GTQTG GY B @ © @ ¨ TQFQGQFEI TYQ QQEVE!!T TTQG`b FG G aT!aGG F TT f! TQF IGTGT HQ T GGYYTQF QF IGEQYTFQQF G 2 @1 ¨ 2 @ 1 × × QTTG HQ!QGYEFGIFGITQ HiGhF g TQQQFEFQQT GdU G‰U ¤ ‰gt g THTGQQ! GQU!UGE QGE‘YFY F ¡ ¤¨ ¢¨ ¡ £ ¢¥ ¥ §¨ £¢ # # ¨ £ # £! ¤£ ¦¥ ¦ ¨¢ ¨£ ¢§ £ § ¥# ¦ ¥ § ¥# §¨ £¢ ¥ ¦§ ¥ # ¤ ¢ ¡ ¡ × ¢ × × ‰ ‰t y ! Q Q!G E Gd QQdTG H‰ ‰tQgHYQTyG QV Q!HGEF GTF FHQF G!F GQa! F U F!FGG`f!!QF IGGaGFa Qi hgG HTQTF YQHTYQFHFQQ T TGF!EF`QGFGQY FVQF HVH GTGQa GHiT G ¨ ¡ ¨ b HTQ! QTTQ a GF Q T H GF Qa Q U G Y  G H U Q E TQFGGeY ¢ Q TQHF QQ! QTYGTY U xQQTTQFa!¤TTQHGYTG QFIIGEG!aGGF F QFIGTT EHTGQQTT!QUQaY Q GY ¨ bQGVaG fx! QGPTHHG! GHQFTIGTTYE QG!GHTQQTH Q Y GYQ VTGf!aG T H t UQYEE TTYY TwQF I G ¥ © ¥¦ ¥ ( ) ( ¢ 9 7 A 0 6 5 4 3 0 A 9 2 5 4 ¡     £ Q FG Q I E QF G !  F $ Q TQ E GF T G QF ITQa TQTQTEQ QFaG eQY xTQQ !Qy etat = (position index) ∗ (nombre d index vitesse) + vitesse index ¨ ¨ ¨ ¨ ¨ ¨ B ¨ Q Q E TY G` T F V TQ! QTTQHF ITGGFaFG xT Q !U QQaGG`! Q ! Fga QTF QT Q C Q T T Q E TQF Q VTQFHIUTQQEaE QTQh QTTGQE aQ`TxGQ GF QU TF IQ GGa!Q T QuaiG ¨
  • 20.  3 G Y F T U Q EQ G YFG QY EQY G HY Q Q eF GF Q QT G ! Q  QTTQH bTU f 2£ ¡1 2 £ ¡1 ¨ $ F $U U QUF !GGYH TG!QFT TTGQ h QQTETQP!F I! T HQFU QT HaGbT fYFGIGYI FTHGUH Qa QF Ga QGTF TQTEQ!!TQT gQ QF !FGG!Q‘HTQGT!FYQ EYQFYP F EQQQH GVFTQG QQY P GeEQ QGQEF E Y! QT T 2 1 ¨ E 0 QQVEQGT GHUHUT Q G!GY FF Q HQTTQTQ!!! TGFQQF! Qt YF !TFYG! Q QUF G`Q GT GF QH! T G  ` Q ! G F ¡ ¨ sY T QP E GG H TQ H FQGTTQ!GaTQGH U HFG TUTFYHEQE QQEPPExQQH GF T TGhG h Q EGPFIYFQH VT QGT HQE Q F ¨ 2 1 @ GQ E YFY!FGUTF QQFV !YFGHIGTIG! TH GfF U HGUb3 Q QFGa QGTFTQ!!T E QF TYQgEQQY GT `QHT Q ! T ¡ Q EQFG eY TQ QTTQ!! T QF U QY 3EQQYQTF IGI!HG QYF T !QGaG TQQY E F Q$QTTG !Q!F ¨ TGGYh QtT !HTGQFQ! GsFQ!GY  QT HbT f G Y U QT H GF T YT G 2£ ¡ £ ¡1 ¡ G Y FQ V Q sYa Q u u Q T QF Ga 0 TTQQFFQa IGFTQaFYTFFQGt QVF T! FQGE!EQE!QaGY`GHQUTQYEGTEYY!QQGQ`TFT QQQTTTGQ!!GT!TYGQFYF! !FQG!VF GTQ!T QQ‘HH! QaT © 0 6 A 7 0 0 7 2 2 A 0 0 7 9 A 2 9 ) ¡ %   £ Q GF Q I QF G V G I T IG G Y TQ  Q Y E Q QT ! G YQ‘ G f!
  • 21. €3 QTQFEYUEeGQ !QQEYQETGf HYGFQQeGTe GFUQG` VQ EQ!QUHQTQTQQ!Q!!TPG E QT gG EV`G` 0 Q 2 × 1 Q C Q bQFUHQEG Q wQ E QE3 x3Q QT T TFHQ EQGTQe QT i HQ! QGHEgGFQ !Q VG EQ HGF $HQTQ TQGE QGQFEYTPF IEQHQGQTTGH!!EQQTQQQT!TTQQHy!b!T3T fYQFFTQIQHGFIb3!YHFGQHIGTIG!!QaHTGQQ‘QHT!TYQQa!GF! ITGaIYQHVHQQTT Q!!Q!aGT QQF tTQQFTF H Q QT QTFGaTGW! QTQFV TYQHQ!x!Q QU Q gV QQPQ!YeHF Q VV GQf!! UQQYGE GHQ HGQTF ! Q ¡ © ¥ ¥ 7 ( 3 6 8 4 6 8 7 5     £ £ G Y  T QTTQ!! T TQ ‘ t v W Q e D Problème de transmission Case de départ Vitesse Accélération Transmission normale
  • 22. W ¨ ¢ ¡ bY ! Q£HU 3U 3 UQUT3TUQ3!¢ ¡ yT u TG HQ!QQaU G H!YQaGQ TG!YQF Q Q !Q VG E GQF HYQEQ T ! ¢ ¢ @ 2 b!TQT HG HQ T T! QF U QFHGEQQTxQF QU GITTGIG UYGFGYYQYw E Q QT! !!QGaGY‘QTTQ3! ¢ 1 ¨ ¨ 2‘ ¢ 1 2 ©1 ¨ G F !  QQG!!IGG YGYFGFYQ H QQeGTQTGH FHQE!3  Q T!HbTTH fE QG QY FGY Q GHY QQeGQTTeGHF 0 ¢ QF QQTYHT QGTQQF U!QGQH TQGt!QFTHQETTHTE T! ! QGYQ !QG E GF Q YFT!FG! GQ ‘G Y Q ¢¥ ¡ ¤§ ¥ §¨ £ ¢ # # ¤ £ # £ ¤£ ! ¦¥ ¥ # ¦ ¦¨ ¢¥¨ £ § ¢ § £ § §¨ £¢ ¥ # ¥ # ¤   ¡ ¥ ¦§
  • 23. 3 W © ¨ D ¢ ¨ ¨ Q QYaG Q eF GiFQ h gT T GEF`TY TGQFF GHG QQYE! Q YQ!QQa VQFtFGHG hGF t fT!F g ¢ TTQaT QH TQ! TQ Q!Qa QF t T Q xQ ! QuQ Q Q Hg‰ ¨ ¨ ¢ Q !TQ!! GTGQ HQTQ!Qa !QFQt!TQ xGQEG F tGG!hu HTGi ¨ ¢ ¡ t QYTTTQYTGFQF G EQFxGGIEF eQTTTQQFIGaGGFat T Qd‘i u T B QF Q ` H!TQ `Q I  V TFGT UFTHQYTTFFGY TTQFT!G` TTQ QQTFQ QT ! Y uF # ¥ ¥ §¥¨ ¨¢¦ ¡ ¤¨ ¢ § ¡ ¤ ¦ ¥ # # ¥ ¥ ¡   ¥ ¢ ¨ ¤ QF Q G TQGa T T TQa TQ ‘ Q ! Q EQ ! ` I QF QeG F H! 5 ) ( @ @ ¨ @ UTQGEEPFIHGT EQeHG FY!Y TGHQGQFGEHQ!HQFH !! T QTFQ$Q QaH¤G Q3f!3 HHTGQQa G ‘!QaGF @¨ C Q ¢ ¨ bbQHQGVETETGQYFUQTE YFH E T E QUTQT QG! aTQQ!xGIEF Q GGF E Q`QF ! QQF Q HVH T GHHaG HQEQ H U F H Q 3 3 G Y E G E Q! Q E E ! Q QF I G T G YF I EQT ¨@ Gx EIFFUx IgF hiQGFQ!Q GT3F QTFQIa GEF YG QTG T!xQQFQ EQPYFaIGH Q ‘ EI GQFGTi ‘ H U ¡ ¤¨ ¢ § ¦ ¥ ¤ £ ¢¡     ££ £ ¦© ¦ ¤ ¢ ¢ ¡£ ¨ ¡ ¤¡¡¥ ¦    ¤ ¨© ¢ ¡ ¡  
  • 24. WW ¨ ¨ ¨ 2 © 1 2 © 1 QU TQexQF GF Q H !!Q£u3 TU3g xU GWGgh HU Gxi TQFG I F e TQF IGGa T QF QTF QFF w Q Ya G U § §¦ ¦ §¦ ¦ ¡ t3 g$¢ ‡Q$E‡e„QT‡ QF‡„T Q86 EQY1@ ) ‡!72'`Q)Q y £¢   ¨ ¨ ¨ TQ xQ !Qu QQ H‰ Q TQ xQ !Qu T g T QF G I F e TQF I G Ga TQF QTF ¨ ¢ QFF wU G Q!TQG HTQQG EYY`G GQGF! ET G`F QxQQyE Ga! FQQ QQT!QQa! TP TQQ g QUFGaa GQF ¨ § bGQYF!YQ!a!GQ  U TQYGHTQ! Q ! T QT!QGaxQ Q Q!QGQEEGF `QFGF!FTG !T U QY!`Q Q y ¦§ ¦ ¦ ¡ £¢ ¡ ¤ ¦ ¡ § ) 0 ‡1 ‡' 0 ) 0 ‡1 ‡575 ˆ @ ˆ 0 )t( †) 0@‡1„@ „5 ) ‡ @)…‡1 6 05 ‡5 ' 6 @ ) ‡ ¦ ¡ ¦ ¦ 0 ¡ ©  ¨ ¨ ¨ T Q x Q ! Qu Q Q H ‰ U T Q xQ ! Qu T g U G G h H G i T QF G ¨ ¨ 2© 1 2 © 1 § QbIF $F e TQF IGGxa TQQF FQHTF G QVFF w G GGHY Q Q eF GF Q QT G ! Q T Q x QF H ! ¡ ¦ ¡¥ t HTQ‡@ ‡!' G 6Y 5 ‡) @ ‡Q'P Y‡e@)6! ` Q'Q y ¥£¢   ¨ ¨ ¨ ¨ G G h f T D U T Q x Q ! Qu Q Q H ‰ U T Q x Q ! Qu T g U G G h H G i ¨ ¨ ¨ ¢ TQFGGIHF e TQFIGT GGa TQF QTF QFF w GYFY!!G Q  Q Q e  G Y  § § ¦ ¦ ¦ ¡ £¢ ¦ t Q @ „!@ Q'F 'Q60G5‡Y5'6 @ ) ‡ QT‡T2Q!†!…T0Q1F QF ‡'!0F G1! )0''!11`2Q'Q y   ¨ ¡ § U GQTTGQh a HGGFiQQ diuH TGQFFGIFHe TxQQF IG Ga TTQF QQT!QFa T QQFFF wQF !F GG !f T FH! a`Q EEQy! T Q ¦ ¡ £¢  ¡ ¡ ¨¦ ' „ 8 6 ) 0 ‡1 8 † ' t„ 86605 ‡ @)‡02‡1†… 0 1 ' 0„( 8 65  ¡ ¡   × § ¡ ¤ Q G G ¡ £¢ ¡ ¦ ¦ ¦   TQF Q TQY Q Q f! st QF6T …G T…@6G E7` @ ‡T@Q8F E8fQ!@!Q)f!G E@a‡Q@3!Q†@Q`9QEQy` !Y xQ T H E Q QF 2 QQ EQFGQeYGTQFaQ‘ TQ!G`T G‘!UQEPF IQHTGHTT GEQE G UTQQFYFGaG QQ QTf !fs! H T ` 1 ¨ ¢ § ¦§ ¦ ¦ ¦ F† ¦ ¦¥ GG F ¦ ¡ ¤ ¦ ` ¡ ¡ bTFQG!GQTFtTFQw!†Y'TQT‡7@G6TGQETQ†`6 T…QQFFQHH9H VQ…G!H@6Q!QH7 „5)T!‡@G…GQF TTQQ !G!ET`QQF QFQ y! ¥ £¢ ¡ ¦ ¤¦ …65 ‡05 ‡25 '†61@ ) ‡ ( 6  
  • 25. vW ¤ £ ¡¡¡ ¨ T T G Q H E !¤ ¤ ¤ ¤ ¤ £¢¡¡ ¨ xG E T G ¤ ¤¤ ¤ £¢¡¡ G H E ! xQ ¤¤ ¨ ¤ £¢¡¡ G G G Q ¤¤¨ ¤ ¨ x G E T G HT Q e¤ ¨ ¨ ¥ ¡ ¤¨ ¢ § ¡ ¤¦ ¥ # ¥ ¡ ¤¨ ¢ § £ ¢¡   #     ¨ ¨ ¨ ¨ ¨ ¡ F ¨ § UbGGGHh QHFGHiUG dViQFuQTQPFHG I!F e TTQQF IxGQ Ga TQF Q!TQu QQFQF wH ‰ UGTQYx QQF I GGa! QGuF Q T g ¦ ¡  ¡ ¡ ¥£¢§ ¦ tY Q'FFQ ‡t @Q‡'Q Y…!Y0)H GF'Q2Q7 @TBQa‡ F TQ B „!B ` Q„Q y ¦ §¦   ¨ ¨ ¨ ¨ ¨ ¡ § U TQ xQ bQ!Q!uGTYg UQGFIGGhGaHGGi U d i u TQFG I Fe TQF IG Ga TQTFQQxTQF QFFw! QQu G QQHH‰T F § ¦ ¦ §¦ ¦ ¡ ¡ ¡ tQ BG „YB Q„F H ‡@G‡' V 0‡ Q'E 27`@TBG ‡)B6!01` Q'Q y £¢   2 1 § ¦ 0 ¡ ¡ £¢§ ¦   bQ ! GYFY!!G F Q €t 3 Q tQ@Q6 0 5 ‡@)!G7Q11 @ Q E‡ `T60G5‡1@!Q@G`„Q@QHyT © ¨ ¨ ¤ § QFF w ‰ TG Y QYT GF !GFg HTQQGG!h THG!iGTHQF GQI F e T QF I G Ga TQF QTF ¨ ¦ ¡§ tF Q f! 1G@) !@7†`'5Q8Q y ¨ ¨ G G h f T D Q T Q x Q ! Qu Q Q H ‰ ¨
  • 26. #W ↔ B Q T ! ` TQF G H T Q! Q E E! T TQYIQGF eFYTT F H xQFGHTQFHGEVT QTeGF HTTTGQHF B UTGFQ!! `gTQTQYTGFFFG TQT!TTQ` bTQ! FaGTQY!QGFQQHYIGT Q GQIQGFGTE TQFFG E Q T T ¥ ¡ ¤¨ ¢ § ¡ ¤¦ ¥ ¥ ¨ ¢ # § ©     £¢¡¡ ¨ ¨ Q G T E ` T Q F Ga Q e ¨ ¤ ¤ ¤ £¢¡¡ ¨ ¨ G QF Q ! ! G ! G ¤ ¤ ¤ £ ¡¡¡ ¨© Q ! G GF HT ¤ ¤ ¤ £ ¡¡¡ ¨ ¨ Q G T E ` T Q F Ga Q e ¨ ¤ ¤ ¤ ¤ ¤ £ ¡¡¡ Q Q!G¤ ¨ ¤ ¤ ¤ ¤ ¤ ¤ £ ¡¡¡ ¨ ¨ Q G T T Q F Ga Q a ! ¨ ¤ ¤ ¤ ¤ ¤ ¤ £ ¡¡¡ ¨ Q G T E ` T Q F Ga Q e ¨ ¨ ¤ ¤ ¤ ¤ ¤ ¤ £ ¡¡¡ ¨ ¨ Q G T e G T Q G Q Q e ¤ ¤ ¤ ¤ ¤ ¤ £ ¡¡¡ ¨ G QF Q ! ! G ! G ¨ ¤ ¤ ¤ ¤
  • 27. RW U GYFY!!G F Q !G F QQ Q! G HTQ ! QF H ET Q GfG`T F H ! s`Y Q QQEyE ! 5 43 ( ) 6 79 7 2 2 ) ¡ 4 ( ¡ 5 43 ( 2 ) £   £ T Q T T Q a T Q T Q F G a T QF Q Q ! Q Q Q G T T Q ! Y T Q F U Q P G E Q E E G F Q h C Speed V ector Indexes(j) = (vx − 1) ∗ (2 ∗ V MAX + 1) + vy ¨ ¨ P os V ector Indexes(i) = (x − 1) ∗ m + y ¨ ¨ t G aU x aU U x ¡ © © ¨ @ QTFG HT!Q`G! F !QQ! TegG TQTQGF Q T V U T Q!  T Q ! Qa T QF HTQ ! TQ F Ga T YF ITT H TQ Y QQFI EQQTQFTTGH QTQT! H¤QTTTQQFaQGF EGHQQYYH !G!H QQ!!GFQHEGEF ! Q E! Q` GQ UQQTyT Q a 7 ( ) (0 ¡ 4 (¡ 0 7 A9 ) ¡ (6 7 5 4 2   £ £ ¡ ¡ 2 ¥¡ 1 F 3 d i uW t 3 T G T QTTQd iFuQt dTiQuFGba T QT F QQV Q!QQ TQF !TQF G` aG ¨ (vx − 1) ∗ (2 ∗ V MAX + 1) + vy = w speed ¨ (x − 1)m + y = w pos ¨ ¡ t Q VT H Q F ! ! TTQa HQ T YUG ` Q!FQI!ETQT`QQF T TGQ! T TH¤QQT!TQQa ax GGF Q!GH eTUQTYYHF! I!TTTQH! GTFQHF ¨ ¨ ¡ ¨ ¨ TTQQF!UQQ HTQT! T¢ `QQT H ¢QQTHQT! ¡ xTQQF QF !QFGQ!HTtaG H TTG!FFFQG VT GUTY¡T ETQ` YGT ) speed index = ( ¨ Q Q H T F E T ¨ ¨ t ! T a G T B s = n speed ∗ (position index − 1) + speed index ¨ ¨ ¨ t G U Q  F sY QQTFIQ EQQTQQFPTTGHGEQGFTQT!GHH¤QQhTTTQQTFQaQGGFEGHQHQTYQYH !G!!HTQQQ!!FGGFQaHETGEFYF! ITTQE!HQTQ`GQYUQQTyTQ a ¦ ¨ 7 ( ) ( 0 ¡ 4 6 ¡ 0 7 A 9 ) ¡ ( 7   %   £
  • 28. cW @ G Y F QF !FG! H !G F !QaG ! ! Q QTF  F U QF H G V QQTTQG!!Y T 2 1 ¢ ¨ T G bQFQIGGHQYTGa QGF!QQEeQFETGQFG!QQQQ!GaYF`QGGFQUTQFGGY!EQEQTGQ!TQFQ E!EhQG!QYF GTIQHTQaIGQGQYTT H QbGYT fGEF ` GY F!GTQ HQ Y T GGYGUFtG TYQF  !GQHTTTQG!!! TTQFQFQQsF!YFaG ! GHQ!!QE QEQ!yQFF w ` 0 5 4 3 ( 3 0 5 ) 6 ( ¡ 7 ( A 8 4 2     £ ¦ ¨ ¨ G Y QF IGGa GF Q EQQFFY QTQTQEQaFGQs Q QGTG T H QQ ! G HT Q ! ¨ f G Q Q Q T H U G H bY QQ!QaQ QFeTF GGFQ Q TQTG!!TQQFYT GHGQ!QHETQE!! QTFHGEYTT QTFPT!H Q` QTQ!Q y 7 ( ) ( 0 ¡   5 3 ( 6 ) ( 0 ¡ 7 ( ) 6 7 5 7       £ Q Y a G Q e F TGYF EYTQ`aTGQ EQeQIT Gx Q F xQ GVTQQ!GTHHFGGU!QTTQG GQ F QQ! Q‰Ya QGG FQ eGFYGFG H ¨ TFGT QFG!FGG!F QQY!a` GG F UQTQeFF FGF ‰G HF T!QFYGE! ` TQQ! GF x QH QTYQaG! QQTeQFG FF ¤ QQYaQf!GHQ eQFEGEGQTTQaTGTQGFG` TG GYF QT QTQEEYQYGHQ!!QE` QEQ!yQFF w F Q © 5 7 ¡ 7 2 ) 6     £ ¤ ! ! G Q T Y H Q G F T T T Q H b Ef! TGQTQEQFGGYsFY!!QGHx G U QIGTFGiT QGQxa GVQ G G EHET Q! G!F T QQ!!Q¡a T QQF T GF Q ¨ ¨ £ ¡ © b GHTYQ! T TGTYFYG!!G TxQF GQQ EGQYY TQ TQQH Q Q G H d T QG £ ¡ T ¨ ¨ ¨ QY ! x G Q HT Q ! V dUGxdYU UQYt TTQ Q!QaG#QQY!!QQQG!TQa E `QTE FeGaG QQ e!QQaGH QE!`T G` QTQQFyQFF w T 7 2 ) 6 ¡  )9 803     £ ©
  • 29. pW Q x f! TQ! Y EQY G  QTG HGT G E ` G TQ !G E Q x G QF IGTQHQ !QY! bTT TQ!Q!Y QQT `QTQIGFGTiTQQ!VGE` TQQ‘y Y E!QGYQYVGHf!G EH` !QTaGGQ VQT T QQ!F TbQYGE TQTFQQF QF Y HQ TQQQQ!Y!YH TT Q!!Qa`TQx GF F!QFHG H! GQFQG` G`UQ!f!`sQQ yT G ¡ ¡3 6 ( ) ¦ 5 4 3 ( 3 0 5 ) 6 ( ¡ 8 0 ¡ 5 7   % %   £ © Ga!Y Q!G E GF Q f! s T G QF QFFG QQQa! QQT GFQ!Q` QQ!y! QF ) ( ) ¡ ) 7 6 £ %   £ © © ¨ © QTTQ a Q QG ! GF H HG G H u Q x u Q T Q YT G T TQFGGE I xEGE! ¨ C QTQF F QF !FG ! IG QFFQ V TP H !Q! U QTTQ a Q T Q! T Q Q! Qa 2 1 GbYFFYQTE QTFQF w! T TTQTFQ QbP!H `!!Y TQQ!U Q!QTa Q!QaQ EQF`QFT !F GT !T QY!`Q Q Q!QyG E Q H QT f! Q E E GF G` QFF w TQ!  QT!Qa QF T G TF T Q E ¦ 5 4 3 ( ) ( A 8 4 2 ¡ ¡ 7 5 3 ¢   £ © ¢ QF PFF G G H Q Y E Q Y T Q ! Q ‘ T T G Q H E ! ¨ 2 1 0 bTTQQGYTFQ QEPF!I`HG ‘ H!GQF Hb3G fT!QGTG QTTHQ!TQ!T !QFTU QQTFGaf!T QF Q!!QG FG QGf!GT 2 1 QGY QQT VQG!f!Q!QGEQTT QQ!T!G HT TQFGQFE!FG` ! G !HT`QG‘! ! VU QFFGQTHEQaT U IGFGGi ! GGF t Q eF G H TF TQ EQ x Q Q V E E xG E G G U T f! QFP E QF ¨ ¢ Q THYQ!TUTGTT !GTQFQ Q Q!GE GFQ GQ!F TQ TfF ! YbY G TYGEQ EY`F YQ yT Q! T Q TT QGFGa TTQQ!F ¨ bQF GQTTQ Q!QQaQ!YQxa! QTTUGUTQ!QG!QEaGG#F QQQ QTFEQ!`TGETTGTFQGEFYFEYTQQTYQTFQQYa!QQ`FF!QwTQQF yG!G T Q T ¡ ¦ 3 6 ( ) ¡ 5 4 3 ( 3 0 5 ) 6 (     £
  • 30.   W 0 QF TQ QYaG Q eF GF TQa EQ f ! ! T F H QF Q V Q E Q Y QEf beEF GQF E ¨ C UUQGG`Q`Y FwVQQEGF H` EQFQ!Q H E!GQQFFTQGT`HGTEGHaU GGUGQ!eHTGYe IQ!QQFQ QT GeHVF GGFa3GQTT3TGHUQQTQQa IG‘fGaYG ¡ ¤¨ £ ¥ # ¥ # ¥ £ ! # ¥ # ! ¨   ¥ ¦ ¢ ¤£ ¤
  • 31. €W ¨ ¨ ¨ ¨ T Y e ! Y Y ¨ bQQQeQT QI! ` TTQeF TIGTQ y QQEG ET G UTTQe FGIa TQQaT F H! Q QG T e G T QG C GFYaY U T ! Y Y TTQQ TQ! QGQ`F I EFFQGT`GQ FF U QTTT ! Q` HTHGQT TTQ TQG UQETYGF!H!EQF EQ ETGF‘ G g ¥© © ¨ 7   )     A ¢ ( 7 6 A 7 5 4 4 6 8 5 7 0 A 9 8 0 ( 0 7£ %   £ U QG ! TG! QF T G h T QT I QF T G QQYGV`FHTQHGT QTYQTQaGb EFQQ VQ TYQ!F GU ` YHT GHF ¨ G QbQTQfG!FFGG!‰eT U QTTGQfbTaHGQIF TQQ!QQaH UQQYQaYaGG Q QeeF GF FGQF QQYTGQFaG! QQHQHT ‘Q!QQa ¨ QG ! TQF G H Y TQ T QT QF U Q Ya G Q eF GF Q QQGeF F!G F TQ HHQQH Q!QQ!EaE!Q sY G QU QQ IVTGHTQ QY aF GQYHQ H tY  VhFHH GGHYTQ ¨ ¨ C QQfT! HGQeQ QQT QGf Q QTGGIFQETQYTQQaEGQGQ GUaQQ G!bQFF!Q!T Gt !QYQaFTGG h QQeF GF ¨ ¨ ¨ @ QT YaQTG QsYeFGGF U !VQT! QeEQf! ! g!TG HF HY QFQFU TPF HbUQEHQEQQxQG` G gQTTQQ! F TQQT !F GTYVQGQ`EQfF GeYFG3F3GTTQa GF QVQT!QUE PsF IY HYYT Q GaG U Ta GF!G H Q ¡ © © ¦§ 0 6 A 4 2 6 ) 8 7 0 5 7 0 A 7 9 ¢ 4 6 8 7 ¡ % %   ¥ ¡ ¤¨ ¢ £ ¤¨ § ¥ # # ¨   £ ¨ £  £ £ ¦© ¦ ¤¡   ¤ ¨© ¢ ¡ ¡  
  • 32. v U  QTG HT G E ` G TQ!G E TQF Q H E ! Q Q H © ¨ ! © © TgQGhQFiIGGxEQITFQQHQFGHFETQxQGeG!GHsTUQFVETQFTQ!FFFQQV!FVQQ QVHxGGQQFIQTGQQTEQGT FQQG!TFQQ!Ft¡!! QTGTGaGQHTH Q Q ¨ ¨ bHGsHGTxQQTTGIHGFFGFGi` G QFTUGT HTTGQEE` W GQ TQT!FHG E QTTQG H!TQ aTGQ!QG E T QQF TTTG HHQFGFQ HV 2 IF g h i GF Q Q ! QF Q H Q s E FF G` Ga F U Q G` QF a H 1 U EgEQFxFGGE Q G TQQEePFF IGH HTFTQF QY eTQ EHQ QWTGTQHTT QG!ETP ` QF QTTF  Q Y  F $  2 C T Q V Q T Q! 1 ¢ G 2 1 TbbGQEGTQ‘GH QETEQTPGTF PI!3HQxFFQF3GUQQ G !QH!!Q yQ FQF `HQFGETEEU TQQETQQ!QGTETFQF EQTP YQeT QFFH I E 2 1 T !G E ` G T Q!G E T Q T ¨ TGTF! YFY H TQQaYY H!YTHG HTTTQQ TQx‘IFTQT Q!g hQiGGF EQ QT3GHTTGQaEG‘` ¦ © 0 7 0 A 7 6 2 0 7 23 6 ( ) 0 7 7 ( 8 4 2 5 7 7 03 6 ¡ %   ¦ £ ¡ ¤ ¢ ! ¤ ¤¢ ¨ © # ¥ ¡ ¤¨ ¢ § ¨ ¥ ¤ ¢ ¡   Y Q Y T G T Q YT G 2 © 1 2© 1 ¨ ¨ bGFQT!HTQQFaFFGwT QTUxUGTGGQHEYQQQHHQEF!H IGH TQQQYYFQaHHQGTQQ!QYTQaQFG UxT GTHQ QE`GTeTQQGE H @ E ¢ UUQTT `!QQ!F QTGQF !FG!F!TG! `Q G ‘Q Q!QI fTQ!YYGeE TYQF YQTFG H!F GG!Q Q YTaFQ!EEQ!! ¤ P QG QHQQy!!TGF Q!EGE TQ!F QYTQFE IQGF IHGEY !T TQ! QTFGG GFGU!QsYa E QTQQ !QUTHbTQfQ ¨ QQTTGG!! QQ VG f‰! UTQYsYTaGTQ QTTF H!FGx! TQQTTQFFGU H!Q!G TTQGFHFGHQ EegQT QQFTHGbHT QfY HQT G!! © ¨ QQQGG H FQ VVFQQFVIUTQTVHYFG`ITT HG F QGHYEF!U QYQaTGHGG QQH GQHY! QQy QTYQaT G! T QF E G ¨ bQTGH! GQFF QU QYGFGa GF GGY sYa QTGT GGF GQF Q TYF U 3FG3a GF TGQsaGYFa TQEG h G e   7 ( 0 3 8 0 6 4 7 9 6 ) 8 7   ) 0 0 ) 8 A 7 9 ¢ 4 6 8 7 ¡ £ %   © ¦§
  • 33. 3 v ¨ T Q Y ! T Q ! Q! T ¨ ¨ £ ¡ U QF Ga G F ¤ vQdQTF!IGFTGi TUQ!QEQH YTFVQYY!TTQGQTEQQY!QGFGE!GYFH!TQxGGTEQG`! Q H!TTQQTQFQ!TTuHTQ QG!ETT`QQQ‘!QQaF G ¢ 7 0 6 ) 8 0¢ A 4 ¢ 7 0 A 7 6 2 7 2 3 6 ( ) ¢ ( ) 6 4 7 ¡ ¦ ¦ ¨ £ %   Q T Q ! r Q T T G T Q g $ T G ! QF T G T G e T F H Q I T Q E PF I H 2 1 I TQaQHG QH xQEFQGHE!GGQFyQsQ TGEHTQ TQQTY QF! $TQ!U QGTE QQ! TQEGQE TQxQ Q GTQFYg C @ Q C × × 2 1 TTb xQGTTQGaQ Q QQ!HQdEY‰EF ‰QQ QVFTFQGEGPHQF IHG THTQTQFTU QFQGIGEQQ !GQQTGQEGG!FeQUQFQIQF HEEQ ExQF Q bQTQ HQ!yGFTQQ V F!QF!Q QVF HgEhQ xiQ TQGH QUTQ xQFTHYE!THQ QEPaFYIH HTQQxQI F G! QFgThiGU‘G G E G ¥¦ ¢ ¡ 4 ¢ 9 4 4£ ) 9 6 7 6 4 3 9 ) 3 4 A @ 6 A 4 ¡ % %   # ! ¤£ ¦ ¥ ¡ ¤¨ ¢ ¦ ¢¨   ¤ ¢ ¦ ¢ £ ¦ ¦  ¥ © ¡ £ ¤ ¥ ¦ © ¨ ¡ ¦ © £ § ¡ ¡  £ £ ¦ © ¦ ¤ ¡   ¤ ¨© ¢ ¡ ¡  
  • 34. Wv 2@ 1 ¨ © 2 @ 1 U ¢ ¡ QTG HT g Q xG T GF QTF U U U g Q E YF Y F Q Y! ! G g ¨ © @ T Q xG T G ‘ TQQ V !FQ V TQ I TQ Q ! G QaxQFHH EQ!VT F!HF QVQ EQPTeYQFETQ T C YQY xG GTQFIGT QTE vTQ QVU FFQ!QTITGFHG i TQQTG!HTTTQ !TQFGEG TTFQF Q VQ YG` Q‘ ! Q ¦§ © 7 9 ¢ 4 6 8 A 5 4 3 ( A 9 4 0 £   ¥¤ £ @ Qa FFG` ! Q G GE FQ ETPFITHQ EQT vQFYQYTGQ g!QQy VQT GH` QihQgPTQGET GQ! QFGT Q G C F ¤ © ¢ QG e TQ V Q! U T T Q E W Q T F H Q TQ!G E T Q Q! T Q T G H Q E Q H © FQTUIG GHFT GiG E `HQTF QUFIGGQeQGHfQ!yQTYF !T QTQGHT QaGF G E TTGHG E! ` TQ‘G G ¦¥ ¦ © 5 4 3 ( ) ( 5 7 9 8 3¢ 0 7 9 ¢ 4 6 ¡   ¦§ £ £ f @ ¨ © YY G QEQTeGHGT i $hgU GQHY YEe QTQ TT Q E! eQG GTFQ E FQ eQTGTf G!F IH YT G ¨ © HG G 0 © © UQ!!G E` QQQF QTQG‘aQTQE!eG` GTQF $ TFGQ!! QF TG HhT Q ! Q! QGTEG HGTF TQ QQE eQGF 0 TTGQ ! QQFTQG h!QY QQTTGGQHHTG TQ FE U TeGQT!QQaTQQEEQT YT QY aQQ T QFQIGHTGaTQ!F$` QTQ ‘V YYQGGTYF F H QHPTEFQIHTTGHF UTxIQFGHT GGF QT FHQ FG!sQT ET GQF EQQe TGf‘! T QF © 5 43 (2 A 4 6 (5 %   £ ¡ ¤¨ ¢ ¢ ¡ # § ¡   ¤
  • 35. vv C Y ¨ ¨ T H U F TY Q ! ` Q E E GF GQH TQTGTGFH TX TQQFgT Q QTGHTE Qa! xT Q B TQ‘GTG QfTGGHTYYQEYeQ` FHQEYQEQ `T GT TTQ ! HGU EFG E`QH TQQEF Q` GHQE!GT HFFGET Q ! e x # # ¢ ¡   ¤ T Q ` e ¨ © @ bTQQ!PeYGF ETQQEQFGGEYY`QYF GTGf! QTH EGQE!QH` G‘Q E TQe!GGE !xQaGG QTYPs!!GTEQ TQ EF bUQQFTGHGH! T H!QFGaGEUTQ tQTQYEGQ EQQYaGFQQYYQH QQF ! T TTTQQG! s EG FT Q‘Q E © © 7 4 2 A 5 43 ( ) 2 3 4       © £ h v Q  QTG HT Q eG! T Q ‘ t 3 R Q e D
  • 36. #v © 0 T G !Y xQ T H EQ TQF QF H EQ xQ G H ! a t x Q! TQ EP T T TQ TG ! QF T G TQE QEFGae TQQTQT! FQHYQ TQQYQ! G!TQQHFQQy!xTQ IVEQTTG HFTH TFQHGHFG EQ`GG‘` QTQFGH` ¨ ¨ UTPQ !YxTQ T GTH EHQEQ TG HF HTYT Y`YVe!iThEg GTQQF TQG HVTGG`EQF G H Q VF H xQ T V Q! C F` Q ‘ T G E ` x Q T QF R ¡ T TG TGTHQ EQ ETQF X TQ gQQFGaQGE `Q!F Q ` VGF QQQYV!Y HF QHF HGEQQ xVQTF H Ta FTY GF ¥ © ¦¦ 0 ( ) ( 9 A 0 6 0 7 7 6 3 ) ( 5 7 4 ¡ % £   % % $ $7 % % % # #7 % ( ¢! C § 2 1 0 4 § 2 1 0 4 G G P# H § Q $ P P7 # ( ¢! C 3H 3 I ! G G ( ¢! C 5 4 2 ¨ ) H 5 4 2 ¨ ) ¢2 @ G G A t T Q I T G F T Y T QF u ' 8 87 % C C © ¢ ) 2 1 ! ¦ § 12 § 0 ¨ ! 6 C § 2 1 0 4 C ¦ § 12 C 5 4 2 ¨ ) C 3 B § ( ¦ ! (B ¢ § ¢ ) 2 1 0 ¨ ) ( ¤   ¢§ ' 1 D D § ( ¦ ! ( D D F 1 # # E C ' 1 D D © § ( ¦ ! ( D D F 1 # # E C © $D # 1 ¦ ) @ ' $ # # ¨ ¨ § 4 C ' $ # # ¨ ¨ § 4 C © B § ( ¦ ! (B ¢ § § ¥ ¨ A ) ¦ 0 ¢ ) 2 1 ! ¦ ) @ ( ¢ ! ¦ 9   ' 8 87 % © ¢ ) 2 1 ! ¦ § 12 § 0 ¨ ! 6 § 2 1 0 4 ¦ § 12 5 4 2 ¨ ) 3 ' § ¨ ! ¦ ) ¢ ¢) 2 1 0¨ ) ( ¤   ' % $ % $ # ¢ ! ¦ © © § ¨ § ¦ ¥ ¢¤ £ ¢¡  
  • 37. Rv 2 1 ¨ dt 3 ¡ G H U GUtUt g G HT Q !  QTG HT × × T Q ! G ¨ E TQF Q Q! TQF FFQ! TQF d 3 3 T T Q E Q TQF FF Q! Q ¨ C A TQGQF IGGE` QQF bTQbT!Qb! FUQQ!TF QYTTQFHFE VQTFGTT!QQFEG QxT vG ‘Q  QQTGGTHTF T Q!F GEH TQQF IF TQTHHEQ!QQG HQTGQ HT QF H QFQGQ EQ HH Qx IF ! YYg h i QGF! QTQ EPFI F HaTY ‘G e ¡ ¤¨ ¥ ¦ § ¡ ¤ ¤  ¤ % %   Q7 % % %   Q7 % ( ¢! C § 2 1 0 4 § 2 1 0 4 G G a G F Q E E ! x Q ! T P Q E P F I H U Q F I E G Q T ! G F Q T G ! Q F
  • 38. cv b Q a G F Q Y Y T G ! s E T Q F $ x G E T ¨ ¨ C © G T F T G Q H F Qb E!GTQFFHEQ xQQ TGHU !QI` TTQQQGQQEH!YYTTTGTFY!YG!Gs`TQQEEGQTeQFQyTGfG!EQU!TGY sGe ET EFF H!FQQG‘H! Q P 0 C C C QQ EVFE QVF YYQ GeTQT T! Q`TTQFQtE eG TQF U QQ Q Q Q Q E E QF Q E Q EQF!E GIF QxYTGQQ VTQ eQEFFEG GeQEHQ Q ! GYT IGG‘F T Q bQGi U QF IG` T F H Q I F !FG ! Q T H EQ  Q eGGaG F Q E QFG e Y Q QTY H QFF w @ Q! QF Q EQF IGY T ! Q sF H ET QFFQ U QY VF H E ! T F H Q EQFF Q H Q! ! TQ F ¨ bQFFE V` Q QQQFFQTQF‰ QG!QaGQY HQEG E GE EGaYeQ H QTQ QFF QQe!GTTGGE Q‘ GF H ¥§¢£¤ ¥ # #£ ¤ ¥# ¢¡ ¡ § ¥ ¡ ¤¨ ¢ ¢¡ # ¥ § ¨ ¡ £ ¦ @ 0 © TQ G QGGTi !QQTaGF!QaQ E QT TQH QTHGQFY Q!GGfH! TH GFQUQ IQ QTGH G Q  T!FQ FT!QG EV` F R UTTQQYFF!QYQ!EYQFGHGEEY QYFIYTQFGEQQFFQG!U QQQaTTQ!aQYGFQGEHYEY`QxTQFQIF QTQTTTHFQEQFEQGeQQF H!$TQFGTHG!!!TVQTF TTTGGhT F F ¡ ¤¨ ¢ § ¦ ¥ ¤ £ ¢¡   ¦ £ ¢ ¡£ ¨ ¡ ¨© ¢ ¦ ¤ ¢¡ £ ¦ ¡ ¥ ¤ ¥ ¦ § ¨ ¥ ¤ ¨ ¨© § ¡  £ £ ¦ © ¦ ¤ ¡   ¤ ¨© ¢ ¡ ¡  
  • 39. pv d i u Q ¡ GG h ¨ ¨ ! ¨ ¨ ¨ ¨ ¨ TQFfITGGDaUTTQQFxQQTF QFF wQuTQ VQTQGHE‰ UQTQ xQQGF T!QQu TQHgTUGGGF hTYHTGQiTQQFGF IsQFeF ¨ YT HFUGa QQ!QTaTQQF TQ QGT` QQTQT !YTF!G YYY!FIHTTQ‘H QT VQGTfT!Q !! THQT`TT QQ!!! QaT 0 ¢ ¨ 0 § QPEFQ!HFGG!T G QHTTQ!! T F QT  F !FG! QTTG H QFF Q U Q Q Q G G ! § ¡ £¢ ¦ ¦ ¦ ¦ tHG @G„H@T'Q!'6Q0Y5 ‡5 ' 6T@Q)T ‡ Q I‡E2†…Q 0 1Q Q‡T'Y01H )0''!11`2Q'Q y   ¨ § T Q a Q P E Q H GF Q V Q ¦ ¡ £¢  ¡ ¡ ¨¦ ' „ 8 6 ) 0 ‡1 8 † ' t„ 86605 ‡ @)‡02‡1†… 0 1 ' 0„( 8 65  ¡ ¡   ¨ § ¦ ¦ ¡ ¤ ¦ ¡ t 6 … … @ 6 7 @‡@8TQa8 @QP) E Q@ H‡ @G3F Q† @V9Q £¢ ¡   ¨@ 0 0 § ¦§ ¦ ¦ ¦ ¦ ¦¥ ! ¦ ¡ ¤ ¦ ¡ Y Qt G†' Q‡F7F@Q 6Q†Q†6Q U…QQ Y9Y H …@G6G!7TQ !„5)T‡G@!EQ…aGQ QT! QQ!YQa T QQ !TQGagG ¡ ¥ £¢ ¡ …65 ‡05 ‡25 '†61@ ) ‡ ( 6 ¦ ¤¦   © Q QYaG Q eF Gi h g F TY GF G H QY E QY Q VF H GF !F g ¨ D ¢ ¨ ¨ ¢ ¨ ¨ QF TTQTTaTQHGTQE! ` TTQQF GQ!QQa Q!F TQ xQQ!Qa QF G!GQhuQ fTQQH g‰ ¢ Q !TQ!! GTGQ HQTQ!Qa !QFQ!TQxQGEGF GG!hu HTGi ¨ ¢ ¡ t QYTTTQYTGFQFGTEQFGxIGEF eQTTQTFQIG aGGFa T Qd‘i u T G U TQT Q TQ E eTQYGT HQHFGQTUTQYGT!Fs TE TQ! ` TQH !QTQTF QQaP I !Qu  V ¥ ¡ ¤¨ ¢ § ¨ ¥ ¤ ¢ ¥ # ¦ § £   ¥ ¨¢ ¦ ¢¨ § ¦ ¨ ¨ ¨ T F H U T GQ`TGTGQ QQ Q!TGQY QsF !!QG HGQ UTGQHGGhY UTQQE PFQI EH YTQEH
  • 40.   v ¨ ¡ G G h H G i Q d i u T QF G I F e T QF I G Ga T QF Q TF ¤ FQFFwQQf!QYQQ!G THTQH Q! VGf!TQsGYaGF TQ VH U HQTTG HbTQfs¤ H IY  T HT ¨ § TQQQFHG HT!GQH VGQfT!TG HQYQ! TTQTYGT QHH GF QF !FG ! QFF Q GFQ ! g QT H bT f TG Y ¡   £¢ §¦ ¦ § §¦ ¦ tT „T G„ „TQ6F 0Q5 ‡V5 'Q6s@) Y‡a @'! '` Q)Q y   ¨ ¨ ¨ ¨ ¨ U ¡ Q ¨ S § U TQ xQ T GT!TQu QT!Qga UTGQG h QHGHiQ E d i u TQFG IF e TQF IG GaTTQQFxQQTF QFFw! Q uE PFQIQH‰H ¦ ¡  ¡ 7 t f'‡e@FG‡'F t …0T)Qa Q'P2 E@QB H ‡GF Q VB„QBb„T G ¡ ¥£¢§ ¦ ¦ §¦   T Q xQ ! Qu Q Q H ‰ ¨ ¨ U TQ xQ ¨ ¨ ¨ U ¡ ¨ S § § ¦ ¦ §¦ ¦ ¡ ¡ ¡ £¢   „ T GT!TQu QT!Qga UTGQG h QHGHitQ E fBdiBeuFGTQF„FGt I‡F@Te‡T'QQaF IQ0G‡PGE'aQT2QHF7 @QGBTFF ‡Q) QVFBF6w0QQ1EbPF'TIG H ¨ § ¦ t @ 6 05 ‡ @) 711T@Qa0Q‡P6E0Q5‡H1 @GF Q@ V„@Q ¡ ¡ £¢§ ¦   ¨ S § T Qa Q P E Q ¨ ¦ t H GF 1 @Q ) V@Q7†'b5T8G ¡§ ¨ ¨ ¨ ¨ ¨ ¨ U TQ xQ !Qu T g U G G h HG i TQFG I Fe TQGFIGGhGafTTQFQDTFQ T QQxFFQw Q!Q!aQu TQQQHQ‰ ¨ ¨ bG`QQHFFTw TGET`G TQQF QHEG! Q G Q EQ H TQ VT G E Q Q e GT Q EQFG eY § §¦ ¦ §¦ ¦ tQG$F‡ E$T ‡Q„‡`Q‡„Q 8 6 I T 1G@ ) ‡!72'`Q)Q y ¡ £¢   ¨ ¨ ¨ ¨ F T Q x Q ! Qu Q Q H ‰ Q T Q xQ ! Qu T g T QF G I F e TTQQF!IGTGGaTQTQFQTQEQFGQHFF!wTHQUTTQTEQFQeQEGf!` QQ QQHQrEQTTG IH FTQG!GE! F `!FQG!QQy § ¦§ ¦ ¦ ¡ £¢ ¡ ¤ ¦ ¡ § ) 0 ‡1 ‡' 0 ) 0 ‡1 ‡575 ˆ @ ˆ 0 )t( †) 0@‡1„@ „5 ) ‡ @)…‡1 6 05 ‡5 ' 6 @ ) ‡ ¦ ¡ ¦ ¦ 0 ¡ ©  ¨ § ¦ ¡¥ t ‡ @‡' T6Q5 ‡a)Q@‡P' E Q‡H@ )GF 6 Q V'Q ¡ ¥£¢  
  • 41. €v 0 bTsHEQEQFTQFQTGEUQHYeGTaIQ QTFG HT GTQ Q RV 3TQYT!QQa QQ QUG QT Q TQ Y e GT a Q T G ! ! PT QT f! T Q F Q !G G Y F w © U TQQ Q H TQY TQF Q V G aQ xQQ GFQ! TQQTE EFIHH TQQF ITGT QHT QH bV QQH! C 2 ¨ 1 GGHQTTQF QQQ TGYT GQ!TQQFa GGFTQ!YFG!VFTHHG!`T TQF UT G Q`GT QF H EQ xQ C C `T T G TQ F !F G ! ¨ ¨ ¨ ¨ U QGTTF UT F HTQQ hFGaQY QEaFY!QFTQ QF !FbG! QQH THGEQHQ Q VGEQ F ! eTI QF H GFQT !G!` ¡ G ‘HQF !!FGQ! QQ THFYEEQG FQFQ YTQEITHT HQEG QFFQQHQG! HGG#QT3 F TTQEaPFGIFU Ha TG F G e T QF Q ¡ ¤¨ £ ¥ #¥ ¦¤¡ # # ¥ # ¥ # ¥ ¡¦ £ ¡ ¤¨ ¢ ¦ ¤   ¥ ¥§ ¥§ ! ¥¥ ¨ ¢¨ ¨ ¨ ¤ ¤ ¦ ¢ !Y xTQ T H EQ TQF $ U QFFG Q G e Q TQ EPF ITH TQYF QHETQQTF IQTYaT QT ¨ QbQ aQQ EQFFQYQTTTQ!TQ`#Q3 TFQTHHQaG GF Q IvE 3 T QTaQ!GsFY QYIQTeQGFTTGH QG‘T EQFFHG ¨ TQQFGe HQ 3TQ EPFQIYHH QT QQEGQ`G QGFHTYQTE aQFG eYYYQE QHQ T!QYEQPFI THHETQTQQHF ! x @ 2 ¨ 1 bQ VTTQH!QG QEGTEQ QeGTFTGaHY QQFQ YVYGQ EvQ 3GF!3Q3Q ET QTT TQTQ!TbQ!! GGQEIGQ QT‘QF G E F v 3 c # W c p v v   2 1 u £     €3 € R # 3 € v t T # 3 T Qu 2 1 ¡ ¡ ¡ ¡ ¡ ¡     2 1 EQi3`x3 3 EQiRW`x #R EQRiW#`x R3W €€3vx333 #3pv€x3p3 c€#pvx#v ttt TT !3v33! TTQFFQQuG ¨@ ¨ QPFY!!G TQF V Q! U TF !FG ! TQF H  QTG HT G E ` QF QTFQ EvQF3I GYTTQQaG!F Q Y V ¨ TQQPEGTGQH F U# 3Q !vY 3xQU3 3T HT EQTTQQaF TQQF HyGaQ Tg QGQFF I!GFG !QF UQFUHTE QVxQQGH ¢ bTGQEPFYF IEG HTQT TG EeQTHQF G #T 3TQEHEGv3 T U TQTGQFa !GQ!QQHT !Q ! G E `Q!HYYQ GT‘ Q ¢¡ ¥ # # £§§§£ ¡ ¤¨¥ £ § # ¥ # ¥ ¥ # § ¥ # £ ¤§ §¡ £¤ £ ¦ # ¨   ¦
  • 42. # S λ 2 1 e G QF 5 ¨@ b GFFHQGQhQ! QF!U TQYT!QeGGaGT QFTTYG ‘Q TQGETfG`TGeTF G Y TQG QVEYFHE!YFxQ T
  • 43. 3# λ=0 Q @ Q λ=1 ¢ ¨ GF QQaQYaQT I FTGG!QF Q!U QFFQGyH E!iQ QQQQ HfY E QGFaTQ G Q E ET G!! QUFQUT!d G = rk + (λzk+1 + (1 − λ)V (sk+1 )) λ = V (sk ) + rk + V (sk+1 ) − V (sk ) + λ(zk+1 − V (sk+1 )) λ = V (sk ) + dk + V (sk+1)) λ(zk+1 − λ m=k+1 λm−k−1 dm = V (sk ) + dk + λ m=N −1 m=k λm−k dm = V (sk ) + zk λ m=N −1 T F G G ¡ V (sk ) ← V (sk ) + α(sk )(zk − V (sk )) λ λ ¤ 5 Ga!YQ Q Q! Q ! QF QF Q Q H E ! xQ EE`QGF TQ GTTT3Q p QH G VY F Q © ¡ m=k k = 0, . . . , N − 1 λm−k dm , V (sk ) ← V (sk ) + α(sk ) 23 1 p m=N −1 λ 2 1 t λ ∈ [0, 1] sY h Q Q E f eFG ‘ GY H Q QP E GGGHa T QF T Q ‰‰ G H # ¦ § ¤ # ¥ ¢ ¢ ¦ ¨£¤ ¢ ¢§ ¢ λ ¡ ©  ¤ § ¡ ¨© ¦ ¡ £ ¡¡ ¤   ¤ ¨© ¢ ¡ ¡  
  • 44. W# 0 ©¦ ¦© ©% £ © # ¤ © © ¦ ¥ ¦ ¨ ¦ §¦ ¥ ¤ ¨¦ £ £ ¦$ ¥ ¦ ¢¡ λ 2 1 t F G e h Q E f e F G F Q Q f ! H T F H G F zn (s)   dn (sn , sn+1 , rn ) n QYFT!QFaG!GF T G QTQFGQQYsFY EQTT YYYGF IeFY Q!G YEEGYQUEP GQF EQ QV TQP‘ ∀s ∈ S, T V (s) ← V (s) + α(s)zn (s)dn , 2 # p1   ¡ V C @ Q ts Q QGFFaG T QQEQ` GF QHQ!H Q FFVQ!U vGp! QUQ!Q G GFTQQa Qs G!F  V sY QF Ga ¨ @ ¨     © bQ Q! T` GGIF T IG x GGsTQEGYQ QFFQQQ HH Q! Q QT IQGE FfQV eFGGF! TQF GG VTYQFG m=k (γλ)m−k dm V (sk ) ← V (sk ) + α(sk ) 2 v p1 m=∞ t QH © γ =1 ¨ QF e P Q ! T G ! G QF I ¡ γ GF!IEQQT !Q HQ G TTQ !YQF T!QFGF! V U W p π λ 2 1 QP3p! QTF GFQTGT QTQVEfFH eQFG TQ TGGFG!asYF E HT Q G h Q! QGGQ!YF H YHG ‘ H b QY © F H EQ Qa T TQ U pU Q Q f! H U 3 Q Q Q Q G λ Q 0 bYEGQE QQYFGaGTQ Q UtTQ HVE H! EFGQETPQQ!TQQTYQ QE PFQI FQ H V Q H QFTGQEF H ¨ n αn (s) ∞ n αn (s) = ∞ n ¡ ¡ 2 Q Q V Q FF Q U G Y Q V G f! α s∈S ¨ TQa £ UT ¢ λ ©       !Q Q! GTT !Y Q U G Y Q VG f! Q s Q I E Q QT a λ 2 1 ¢ Q THQ QVYTTGFE TYQTYP fG H fh TQFQ ET fTU eFG F Q Q T Q VTQHQ QU ! QQ eQaQFG!a GQ‘ dk (sk , sk+1, rk ) QYF !FG ! QQ F Q QYF ET TQ l = 0, . . . , k T G G F Q V T P V (sl ) ← V (sl ) + α(sl )λk−l dk , 2 W p1 λ G 2 1   C C λ $ ! G   G $ ! G   $ ! ' © QeQGaTTQHQ H HGD Q E f eFG F Q t QQHF ITTQHTQTTfQ!Q3aQpHHGUQxEQ VEYT FQQFhUGHQ YY!YT !gQh © GF Q Q fY E GF H Q E E ! U H ! Q rQ Vf EG  V QYGEEG! Qe H T ¨
  • 45. v# ¨ ¨ ¡ S TQQF TGQ e HQ QQFaGQaGF GYQ!Q!`G HTQQFTQTQF!FQGYfG!FQ H HV GTPQ! GF!T QQTPG HEQ HT Q Q I ¤ ¢ λ 2 1 ¡ ¨ WTQp QY eFsIGeFFQY Q!EGQF GQFE ETQ!YUT3G I QYhGTQ ! Q!QTQ Q!GG GFQQEYF H QEF G aQ G ‘ s = sn 1 zn (s) = s = sn γλzn−1 (s) TT ∀s ∈ S z0 (s) = 0, V t H GTFG Y ! QaG Y F I eFY QI! G ¨ zn (s) 0 QQ!FGGa QGF QQ!Q`YGF Q QQEGQPTeYFFHQ!QesYQaQ! Q T G ! T QG Q! !T QGFhEQT QaGF E ! YF I eFY Q!G t 3 p Q e D n dates des visites de l’état s n 1 z(s) 2 1 ¨ @ ¨ T ¤ TbTGHGGYQa3 TpQQQTeVsG!f!GaQGQEFGYQaFFGQQT!!TQGHQQxeQGQTEGeH!YGGYTQaFHIUeYF!Y TTG QVGT!Y FQUTTQ!GQGyQae GTT s = sn γλzn−1 (s) + 1 zn (s) = s = sn γλzn−1 (s) TT ∀s ∈ S z0 (s) = 0, QaGF E ! ! G YF I eFY Q! G
  • 46. ## 0 ¡ TY !Q Q YY G FGa Q TTQ Q Q YT Q U YTFG Y ! Q! T ` Q ¤ Q a Q Q E f eFG F QTFGY Y e Q Qx IFG FFGg`hGiF GU TF HTEGQ QEPGx eQY TT GQh @ b! T Q Q TQ s QG Y TQ a T TQ !Q G TQF Q VT H Q V YQFIYGeF IEQQET QQFG! ¨ λ C 2 1 bbYHHGT QTG H GHY aFYHQYVY YGT ! hG g QTEQfaeFQGF QU TTH EQ! QQQEF HQEHQ xQ F T GYhVF H ¡ ¤¨ ¢ ¨ ¥ § ¡ ¢ ¥¤ (n − m) ¨ GY  F YT a G Y F Q QF Ga n Q ¨ @¨ ¨ m ¨ !   8 3 $ $ 7 $ log(γλ) ¡ TGQF F GTGYEY E VG fQQ!FFGEQTGQIQQFTGQT!TTFQeT r fQQ EQ Y eQ TYTQaaQTGU Y T Q Q 2 log(ε) ¨ T!QYfT!GH H G Q f QYET QFH G QQ E Q T 1 zn (s) ε ¨ QQTEaEQQP!YQTGGYF TQTQG!GY TQF Q QVG EQQGQETQQ! U!QEYQTU! Y H T F H TTYQ!GTa GTFG Y !QaG YF I eFY Q!G t W p Q e D n dates des visites de l’état s n 1 z(s)
  • 47. R# ¨ x IF g h i GF Q eY F a H Q GaG Q G` FGaG ¨ ¨ 0 U!TG!YTQQFTQFTTGU TGF F HEQThQ TQQI EG TQF G!QaG aQ EQ GTGH UQTFGI!ETQT GQQ! QTGQF λ 2 1 QFFQQEQPQFGQa TGGF HQ QGf!THF Q V HQTIQUu Q h GFG!aY F` UGFQ QQ wQGTGFT G`‘T GT ¥ ¦¡ # ! ¥ ¥ § £   ¢ ¢ ¤ ¢ ¢ ¦ λ 2 1 @ ¨ ¨ ¨ ¨ QY!T H`EQ ` Q F !h TQ!!UY`xGsF FQGHHHGQFI GTGTEG` ! QTQQ Q!QG TGF QF @ QG ! QF QT G ‘ FGaQ` Q! e QYFQ H H G T TQ ! ` ) ( ¨ QQFtQI!GFQGUiQQE eFGGaQ`Q Y! T` QGTFQQ!!Q eGYTTQFGF Y GYFY!FGG ! !Qy! ` Q! `GE Q F 0 @ @ ¤ bQQQaF!!GFGFQG!QQfPa! GHETQQGTYUQTTGTQ`Q!YYTQGT F QQVGEYQYQPYFeH QEG!EGiYhFQgE!YTFQHEQ FHQQTTQGF U QY!F TQaGGY‘TQQE ¥ ¥ 7 A @ 3 6 5   5 4 3 ( ) ( 5 7 9 8 £   ¦¥ ¦ £ ¨ b!G H TQF s H G Q E QFFQ!G E GQ E YF H E Q I GTFGHiQ EQ f TYeFGGF F ¨ ) ( ¨@ ¨ Q!QaGG` QTQTTGFEGG`QQTEYF HQYEFTUQG` QYa¤YG YGGV QQE! YF HQEGFQ ETU TQHPE QG Ex QQh Q ¦ 7 9 3 ¢ 4 4 ( A ) 7 0 6 A 4 2 ) 9   7 3 9 5 4 3 ( ) ( 5 7 9 8 % £   ¥ ¦¥ ¦ # §   ¢ ¡ ¤¨ ¢ ¢ ¡  
  • 48. c# α ) QeGT ( ¤ 2 1 s, a, s , r QTYaQQTIHHGTQ x G TQ Q!TQG!Q ‘Q  VGTQ` EQ VYGHfx!Q Q Y ! Q GQF ETGGYH 0 a ∈A Q(s, a) ← Q(s, a) + α(r + γ max Q(s , a ) − Q(s, a)), 2  1 W ˆ ˆ ˆ ˆ S t QGa T GF TQ e GQFb Q QTG I Q G Y  ‘ s ∈S a ∈A p(s |s, a) · {r(s, a, s ) + γ · max Q(s , a )}. Q(s, a) = 2  1 ¢ Q Q © S bGY QP G E Q Q f! HtHG GaTQT eTGGQFVb Y Q EEfPT eTF GF Q Q H! F HT GQF‘Qa ¢ U QF IG` ! T GFQET TH TQQTF Q QVHTQF YEY`YYE HQ!FF G QGQQTEQPF!IQH Q  fVY EQ © @ ¨ k 0 TQQTE x TQfF! QQ‘ !GQ Qh QQFFH EQG` GF UQQFPTQEEfQ TeGFGH TGQ TQ GVTQ EHYtF HTHQTG TTQ!Y O(|S||A|) Q ˆ T TQT Q I E T F H T GF ET ¤ T G Q E Y H xQ T Q Q V TQ Q eG! T Q r ˆ p ˆ S O(|S| |A|) 2 ¨ @ bEGQe QU ! QQ QQGQHeQG!!T G ‘ QTTG H QT Q QFFQGEQQQH Ue Q GQQFebG!QETfQF GeFHGY‘! GF H r ˆ p ˆ QQTTTQT!QY!Y TQQFHFQt VQQ! UYaQ! T T!`QQ`eGTQF!TQQEQFQQFTQ!YGHHGTTQHQ T fEE GTQyQ Q!FPVTTQE Y ¨ Q QQ! QF ET T iQhgQ EQY HQxQ TYa Q H QQQE QH!T QGF ! QUQFP TE QFfTYGE T QG‘ ! T Q H ¦ ¨£¤ # ¦ § ¤ # ¥ ¢   ¢ ¢§ ¡ © ¡ ¤£ ¡ ¤ § ¡ ¨© ¦ ¡ £ ¡¡ ¤   ¤ ¨© ¢ ¡ ¡  
  • 49. p# ¨ ¨ ¨ ¨ QY!T H`EQQG` !Q QF QF T G!‘ TQ ! U Y x s FQ H HG G E ` T Q Q G TF  F ) ( T F G a Q ` Q ! e Q YF Q H H G T T Q ! ` ¨ 0 QQFGtQI!QGfF!QGUiQQTEGTFeGUaTGQ`QQYY! `QGEFQQTPQF!HE eT!YGTiFGhTYQgF YTQYGGF!!FQGHy! T!!TG``QGFT QQ QEF!! Q @ ¤ bbFFQG! QPaGEH QQ YQTGT`Q!TYT GGFTQGT QY QVYQGYE YFG!Q EQYFF HQET GF QU QYTG FQaE Q‘aG e Y ¥ ¥ 7 A @ 3 6 5   5 4 3 ( ) ( 5 7 9 8 £   ¦¥ ¦ £ ¨ b!G H TQF s H G Q E QFFQ!G E GQ E YF H E Q I GTFGHiQ EQ f TYeFGGF F ¨ ) ( ¨@ ¨ Q!QaGG` QTQTTGFEGG`QQTEYF HQYEFTUQG` QYa¤YG YGGV QQE! YF HQEGFQ ETU TQHPE QG Ex QQh Q ¦ 7 9 3 ¢ 4 4 ( A ) 7 0 6 A 4 2 ) 9   7 3 9 5 4 3 ( ) ( 5 7 9 8 % £   ¥ ¦¥ ¦ ¡ ¤¨ ¢ ¢ ¡ # §       ! ` Q Q ! T T Y TF G Y Y Y Q E QF G e Y G F Ga Q T T Q TQ h ¤ Q a Q Q E f eFG F QTFGY Y e Q Qx IFG FFGg`hGiF GU TF HTEGQ QEPGx eQY TT GQh @ Q Q TQ s QG Y TQ a T TQ !Q G TQF Q VT H Q VQFYIGYFeI EQTQ EQQFG!!YHTT ¨ C S QTGH GYH aFYHQYVYYTGe! GGgQFbTQ Q E faQeFQGT F UT H! EQQ QFQH E QQxHQ F TY GVhF H H G E ¡ ¤¨ ¢ ¨ ¥ § ¡   ¥¤ 2 T ` Q Q I E G e T ! G ¤ T GVY T QF H ! 1 Q S TQQF QT!QeUTQQa`TQ!a GQFQY!QQEQ EQQH UTTQQFGGGaQFeQEGQTa Q¤GHF TTQT!QaQeYHx!QGTQTQFQbF GQQE!fTQ‰TeTFGGTF G ¨ x Q Q ¨ Q s E G F Q a Q H Q a T Q ! Q Y H x Q T QF T E Q U Q Q G ! 0 bEG EQFTTQFFH t TQQ!YTGFGsY!T G`GQ ET FYHH UxQQQQE Ie EG T QQYF !Q!aQG Q TT QaG Y!Y Q IV Q
  • 50.   # ¨ ¨ GaG QG` FGaG TT G ! QxTQIFF e gI hiQ HGF QQe YVFQE QaF I GIHQ H ¨ ¨ bFeGH TGFQ Q FQ Tf!GE HU QQVTYF H QQ EQFGQaeYQGTTGFGuaGQ T F!FGGF! EQ ‘T QQF GEQ EHYEQ VY S TQFTHTQ!Y TTGGHEU GQeT QaF! HQ TQG F eGQEGfQFb eFG‘!Q` GGTF GQ`T GT GTQFE Q ‘PQ ¥ ¦¡ ¢ ¤ ¢ ¢ ¦ # ! ¥ ¥ § £     S e G QF b ! ` G F G H QF I G T T G ! Q T G Q
  • 51. €# TP Q! QY H xQ Q ` V U QeG T Q! Q Qa T QFF Q! xQ G Q QaGeT QH R Q Q TYYTT!Q e H Q EQ G e TT G G IGFG i Q QT G E G E U QF I G Q eF e Y QT f y ¨ Q ¨ TTTG TQ E f eFG TQF Q i h g TQF G a !Y Q T Q G f! TQ Q G E C¨ ¨ @ IQ!GFGGTiG T !!GE`Q `HGHG IU TGFFY F QQH!IQG H THQ YG HQe!GT QQ ! Q T QTY ‘TQ ¡ ¤¨ ¥ ¦ § ¡ ¤ ¤ ¤  
  • 52. ed 6 c C 9 ( 3 ) 8 B 9 P X U 8 B 9 % S c bT % C R ' B 2 $ % C R ( S ' B a 8 ! % % @ @ % D 1 ` ' % D 8 % @@ % 8 ! # ! ) H6 F X $ P ! 6 4 X Y P ! I ) 6 $ X $ W ! Q Q 6 56 V λ 6 % ( ' E C B % D % 9 % ' ( U T $ % S 2 ' B @ (A @ % 9 % C R ' B 2 % ' ( 3 ( Q 6 % 8 2 D ( 5 % ( 8 % ' 3 3 P 5 P I ( ' $ # ! ) H G D ' 9 'F 6 % ( ' E C B % D % 9 ' 8 B 5 4 % 9 % ' B 2 ( @ ' C % ' 3 ( 2D %@ % 8 B D C 9 B ' 8A @ % 9 % ' ( 3 % 8 7 6 5 4 % ' 3 ( 2 ) 1 0 ) ! ( ' %$ # ! ¢ © ¨ § ¦ ¥¢¤ £¢ ¡   ¤ ¨© ¢ ¡ ¡