Basics and some concepts to get started with reverse engineering .

1. 1
RReevveerrssee EEnnggiinneeeerriinngg
CCoouurrssee
IISS||RReevveerrssee EEnnggiinneeeerriinngg
LLeecc 22

2. 2
SSttaacckk MMeemmoorryy
SSttaacckkss iinn ccoommppuuttiinngg aarrcchhiitteeccttuurreess aarree rreeggiioonnss ooff mmeemmoorryy wwhheerree ddaattaa iiss aaddddeedd oorr rreemmoovveedd iinn aa
llaasstt--iinn--ffiirrsstt--oouutt mmaannnneerr..
eevveerryy pprroocceessss hhaass aatt lleeaasstt oonnee tthhrreeaadd,, aanndd eevveerryy tthhrreeaadd hhaass iittss oowwnn ssttaacckk
IISS||RReevveerrssee EEnnggiinneeeerriinngg

3. 3
SSttaacckk MMeemmoorryy
IISS||RReevveerrssee EEnnggiinneeeerriinngg

4. 4
HHeeaapp MMeemmoorryy
TThhee hheeaapp iiss mmeemmoorryy ssppaaccee tthhaatt ccaann bbee aallllooccaatteedd bbyy aa pprroocceessss wwhheenn iitt nneeeeddss mmoorree mmeemmoorryy..
EEaacchh pprroocceessss hhaass oonnee hheeaapp aanndd iitt iiss sshhaarreedd aammoonngg tthhee ddiiffffeerreenntt tthhrreeaaddss.. AAllll tthhee tthhrreeaaddss
sshhaarree tthhee ssaammee hheeaapp..
IISS||RReevveerrssee EEnnggiinneeeerriinngg

5. 5
PPooiinntteerr RReeggiisstteerrss
EEBBPP -- bbaassee ppooiinntteerr..
TThhee bbaassee iiss tthhee bbeeggiinnnniinngg ooff aa ssttaacckk ffrraammee ..
EEBBPP ppooiinnttss ttoo tthhee bbeeggiinnnniinngg ooff tthhee ffuunnccttiioonnss ssttaacckk ffrraammee
EESSPP –– SSttaacckk PPooiinntteerr..
EESSPP iiss tthhee ssttaacckk ppooiinntteerr aanndd aallwwaayyss ppooiinnttss ttoo tthhee ttoopp ooff tthhee ssttaacckk
EEIIPP -- IInnssttrruuccttiioonn ppooiinntteerr
ppooiinntteerr ttoo tthhee nneexxtt aaddddrreessss iinnssttrruuccttiioonn ttoo bbee eexxeeccuutteedd
IISS||RReevveerrssee EEnnggiinneeeerriinngg

6. 6
SSeeggmmeenntt RReeggiisstteerrss
SSeeggmmeennttaattiioonn iinnvvoollvveess ccoommppoossiinngg aa mmeemmoorryy aaddddrreessss ffrroomm ttwwoo ppaarrttss,, aa sseeggmmeenntt aanndd
aann ooffffsseett..tthhee sseeggmmeenntt ppooiinnttss ttoo tthhee bbeeggiinnnniinngg ooff aa 6644 KKBB ggrroouupp ooff aaddddrreesssseess aanndd tthhee
ooffffsseett ddeetteerrmmiinneess hhooww ffaarr ffrroomm tthhiiss bbeeggiinnnniinngg aaddddrreessss tthhee ddeessiirreedd aaddddrreessss

7. 7
SSeeggmmeenntt RReeggiisstteerrss
CCSS →→ CCooddee sseeggmmeenntt
DDSS →→ DDaattaa sseeggmmeenntt
SSSS →→ SSttaacckk sseeggmmeenntt
EESS →→ EExxttrraa sseeggmmeenntt
FFSS →→ EExxttrraa sseeggmmeenntt
EExxaammppllee ::
SSeeggmmeenntt::ooffffsseett
MMoovv eeaaxx,, DDSS::ooffffsseett mmyyssttrriinngg

8. 8
FFllaaggss
OOFF:: OOvveerrffllooww FFllaagg :: iinnddiiccaatteess aann oovveerrffllooww wwhheenn sseett
DDFF:: DDiirreeccttiioonn FFllaagg :: uusseedd ffoorr ssttrriinngg ooppeerraattiioonnss ttoo cchheecckk ddiirreeccttiioonn
SSFF:: SSiiggnn FFllaagg :: iiff sseett,, rreessuullttiinngg nnuummbbeerr ooff ccaallccuullaattiioonn iiss nneeggaattiivvee
ZZFF:: ZZeerroo FFllaagg :: iiff sseett,, rreessuullttiinngg nnuummbbeerr ooff ccaallccuullaattiioonn iiss zzeerroo
CCFF:: CCaarrrryy FFllaagg :: uusseedd ttoo iinnddiiccaattee wwhheenn aann aarriitthhmmeettiicc ccaarrrryy oorr bboorrrrooww
hhaass bbeeeenn ggeenneerraatteedd oouutt ooff tthhee mmoosstt ssiiggnniiffiiccaanntt AALLUU bbiitt ppoossiittiioonn
IISS||RReevveerrssee EEnnggiinneeeerriinngg

9. 9
IInnssttrruuccttiioonnss
AArriitthhmmeettiicc ooppeerraattiioonnss
AADDDD ::
aadddd ddeesstt,, ssrrcc
EExxaammpplleess ::
aadddd eeaaxx,, eebbxx -->> bbootthh ddeesstt aanndd ssrrcc aarree rreeggiisstteerrss
aadddd [[eesspp]],, eeaaxx -->> ddeesstt iiss aa mmeemmoorryy rreeffeerreennccee ttoo tthhee ttoopp ooff tthhee ssttaacckk
aadddd eeaaxx,, 44 -->> ssoouurrccee iiss aann iimmmmeeddiiaattee vvaalluuee
IISS||RReevveerrssee EEnnggiinneeeerriinngg

10. 10
IInnssttrruuccttiioonnss
AArriitthhmmeettiicc ooppeerraattiioonnss
SSuubb ::
ssuubb ddeesstt,, ssrrcc
DDiivv ::
mmoovv eeaaxx,, 6655 ;; mmoovvee tthhee ddiivviiddeenndd iinnttoo eeaaxx
mmoovv eeccxx,, 44;; mmoovvee tthhee ddiivviissoorr iinnttoo eeccxx
ddiivv eeccxx
RReessuulltt::
EEaaxx :: 1166
EEddxx :: 11
IISS||RReevveerrssee EEnnggiinneeeerriinngg

11. 11
IInnssttrruuccttiioonnss
AArriitthhmmeettiicc ooppeerraattiioonnss
MMUULL ::
MMUULL ddeesstt,, ssrrcc
IISS||RReevveerrssee EEnnggiinneeeerriinngg

12. 12
IInnssttrruuccttiioonnss
BBiittwwiissee ooppeerraattiioonnss
AANNDD,, ssyynnttaaxx:: aadddd ddeesstt,, ssrrcc
OORR,, ssyynnttaaxx:: oorr ddeesstt,, ssrrcc
XXOORR,, ssyynnttaaxx:: xxoorr ddeesstt,, ssrrcc
NNOOTT,, ssyynnttaaxx:: nnoott eeaaxx
EExxaammppllee::
VVaalluuee11 == 1100001111001111
VVaalluuee22 == 1111000011000011
OO//PP ==
AANNDD -->> 1100000011000011
OORR -->> 1111001111001111
XXOORR -->> 0011001100001100
IISS||RReevveerrssee EEnnggiinneeeerriinngg

13. 13
IInnssttrruuccttiioonnss
BBrraanncchhiinngg
JJZZ :: jjuummpp iiff rreessuulltt == 00
JJNNZZ :: JJuummpp iiff rreessuulltt ddooeessnn''tt eeqquuaall 00
JJEE :: JJuummpp iiff rreessuulltt eeuuqqaall zzeerroo
JJNNEE :: JJuummpp iiff rreessuulltt ddooeessnn''tt eeqquuaall zzeerroo
EExxaammppllee::
CCMMPP BBLL,,33
JJEE llaabbeell22
MMOOVV DDXX,,44
JJMMPP llaabbeell33
llaabbeell22::
MMOOVV BBLL ,,77
IISS||RReevveerrssee EEnnggiinneeeerriinngg

14. 14
IInnssttrruuccttiioonnss
DDaattaa MMoovviinngg
MMOOVV ssyynnttaaxx;; MMoovv ddeess,,ssrrcc
MMoovvzzxx ssyynnttaaxx ;; mmoovvzzxx ddeess,,ssrrcc
BBootthh SSoouurrccee,,DDeessttiinnaattiioonn ccaann bbee rreeggiisstteerr OORR mmeemmoorryy rreeffeerreennccee ..
WWaarrnniinngg :: BBootthh ccaann''tt bbee mmoommeerryy rreeffeerreennccee
LLeeaa eeaaxx,,ddwwoorrdd ppttrr[[eeaaxx++eeccxx]]
IISS||RReevveerrssee EEnnggiinneeeerriinngg

15. 15
IInnssttrruuccttiioonnss
LLOOOOPPSS
mmoovv eeccxx,, 55 ;; rreemmeemmbbeerr eeccxx ssttaannddss ffoorr eexxtteennddeedd ccoouunntteerr rreeggiisstteerr
__pprroocc::
ddeecc eeccxx ;; ddeeccrreemmeennttss eeccxx
lloooopp __pprroocc ;; llooooppss bbaacckk ttoo __pprrooccss
IISS||RReevveerrssee EEnnggiinneeeerriinngg

16. 16
IInnssttrruuccttiioonnss
SSttaacckk mmaannaaggeemmeenntt
PPOOPP ;; PPOOPP ddeesstt
PPuusshh;; PPuusshh vvaalluuee//rreegg
IISS||RReevveerrssee EEnnggiinneeeerriinngg

17. 17
HHaannddss--oonn
FFrroomm CC ttoo AAsssseemmbbllyy
iiff ((vvaarr ==== 00))
{{
aannyyffuunnccttiioonn(());;
}}
//// AAfftteerrCCoonnddiittiioonn
IISS||RReevveerrssee EEnnggiinneeeerriinngg
MMoovv eeaaxx,, [[vvaarr]]
TTeesstt eeaaxx,, eeaaxx
JJnnzz AAfftteerrCCoonnddiittiioonn
CCaallll aannyyFFuunnccttiioonn
AAfftteerrCCoonnddiittiioonn::

18. 18
HHaannddss--oonn
FFrroomm CC ttoo AAsssseemmbbllyy
iiff ((vvaarr ==== 77))
ffuunnccttiioonn(());;
eellssee
aannootthheerrFFuunnccttiioonn(());;
IISS||RReevveerrssee EEnnggiinneeeerriinngg
CCmmpp [[vvaarr]],, 77
JJzz EEllsseeBBlloocckk
CCaallll ffuunnccttiioonn
JJmmpp AAfftteerrCCoonnddiittiioonnaallBBlloocckk
EEllsseeBBlloocckk::
CCaallll aannootthheerrFFuunnccttiioonn
AAfftteerrCCoonnddiittiioonnaallBBlloocckk::

19. 19
HHaannddss--oonn
FFrroomm CC ttoo AAsssseemmbbllyy
iiff ((vvaarr11 ==== 110000 &&&& vvaarr22 ==== 5500))
yyeess;;
IISS||RReevveerrssee EEnnggiinneeeerriinngg
CCmmpp [[vvaarr11]],, 110000
JJnnee AAfftteerrCCoonnddiittiioonn
CCmmpp [[vvaarr22]],, 5500
JJnnee AAfftteerrCCoonnddiittiioonn
yyeess
AAfftteerrCCoonnddiittiioonn::

20. 20
HHaannddss--oonn
FFrroomm CC ttoo AAsssseemmbbllyy
ffuunnccttiioonn ((iinntt xx,, cchhaarr yy ));; mmoovv eeaaxx,, yy
IISS||RReevveerrssee EEnnggiinneeeerriinngg
ppuusshh eeaaxx
MMoovv eeaaxx ,, xx
PPuusshh eeaaxx
ccaallll ffuunnccttiioonn

21. 21
MMSS--DDOOSS AAsssseemmbbllyy
HHeelllloo WWoorrlldd EExxaammppllee
JJmmpp 00110033
DDbb ""HHeelllloo wwoorrlldd$$""
MMoovv ddxx,,00110022
MMoovv aahh,,99
İİnntt 2211
İİnntt 2200
IISS||RReevveerrssee EEnnggiinneeeerriinngg

22. 22
MMSS--DDOOSS AAsssseemmbbllyy
CCuurrrreenntt SSyysstteemm TTiimmee
MMoovv aahh,,22DD
İİnntt 2211
İİnntt 2200
IISS||RReevveerrssee EEnnggiinneeeerriinngg

23. 23
MMSS--DDOOSS AAsssseemmbbllyy
CCuurrrreenntt DDOOSS VVeerrssiioonn
MMoovv aaxx,,00330000
İİnntt 2211
İİnntt 2200
IISS||RReevveerrssee EEnnggiinneeeerriinngg

24. 24
AAssssiiggnnmmeennttss
TTrryy WWiitthh SSoommee
iinntteerrrruuppttss wwiitthh SSiittee
BBeellooww ::
hhttttpp::////ssppiikkee..ssccuu..eedduu..aauu//~~bbaarrrryy//iinntteerrrruu
ppttss..hhttmmll
IISS||RReevveerrssee EEnnggiinneeeerriinngg