1. • .
1
….
Reisen til singulariteten
Ole Kristian Nystrøm

3. 3

4. 4

12. 1942 - Isaac Asimov
«Handbook of Robotics, 56th
Edition, 2058 A.D.»

13. 1955 - John McCarthy
«the science and engineering of
making intelligent machines»

15. 1 - 2 - 3

16. 1 ANI

28. 2 AGI

29. Linda Gottfredson
«a very general mental capability
…
the ability to reason, plan, solve
problems, think abstractly,
comprehend complex ideas, learn
quickly, and learn from experience»

30. 3 ASI

31. Nick Bostrom - 1998
«an intellect that is much smarter
than the best human brains in
practically every field, including
scientific creativity, general
wisdom and social skills»

42. Ray Kurzweil
Law of Accelerating Returns

44. ASI

45. Singularity
a point at which a function takes an
infinite value, especially in space-
time when matter is infinitely dense,
as at the center of a black hole.

47. «the moment in the future when
our technology’s intelligence
exceeds our own»
- Vernor Vinge

48. Within thirty years
we will have the technological means to create
superhuman intelligence.
Shortly after
the human era will be ended.

49. «more likely than not
to have reached AGI
in 2040»
- Bostrom 2014

54. kunstig intelligens
≠
menneskelig intelligens

55. - er det plass for menneskene?
Etter singulariteten

58. Sett av normer, verdier og holdninger som aksepteres.
Forsøkes praktisert av et individ eller en gruppe.
Hva er moral?

61. 61

63. Evnen til å være bevisst om noe inne i en selv.
Bevissthet

65. Mennesket og aper
4 mill.år siden

66. Pattedyr
200 mill.år siden

67. • Mange arter er bevisste, men hvor
mange er moralske?
• Er bare mennesket som er opptatt av
moral og etikk?
• Vil kampen om tilværelsen pågå
uavhengig av dette?
Problemstillinger

68. Hva betyr mål?

70. Goal-seeking systems will have drives to:
• Model their own operation
• To improve themselves
Måldrevne systemer
The Basic AI Drives - Stephen M. Omhundro, 2008

71. En smart entitet som er gitt et mål vil
kunne manipulere seg selv.
Den vil kunne manipulere sine mål.
Den vil kunne utvikle bevissthet.
Bevisste systemer

72. Den har verktøy som gir den et bedre og mer
nyansert bilde av virkeligheten.
Den vil kunne se inn i seg selv og se på sosiale
sammenhenger.
Den vil kunne utvikle moral.
Moralske systemer

73. kunstig moral
≠
menneskelig moral

74. Har den moral?
Nei
Hvilke mål driver den?
Ja
Er det vår moral?
Våre
Hvem sine mål er det?
Egne
Tilgang til å nå sine mål?
Nei
Hmmmm…
Ja
Hvem sin moral er det?
De onde De gode
Nei
Vi er ok!
Ja
Står vår art i veien?
De onde De gode
Nei
Vi er ok!
Ja
Hmmmm…

76. For mange populasjoner vil veksten avta når
bestanden nærmer seg stedets bæreevne.
Begrensningen i antallet skyldes forhold som
mattilgang, plassmangel, stress, sykdommer osv.
Disse forholdene kalles ofte tetthetsregulerende
faktorer.
Logaritmisk og vil nå en likevekt.
Tetthetsavhengig vekst1

77. En ny art til et område der den ikke fantes fra før.
Konsekvensene kan bli katastrofale for de
etablerte artene hvis den nye arten trives ekstremt
godt i det nye miljøet.
Ukontrollert vekst2

78. hva da?

79. !

84. "

86. "

91. !

95. The Singularity Is Near: When Humans Transcend Biology – Ray Kurzweil
How long before superintelligence? - Nick Bostrom
The Coming Technological Singularity - Verner Venge
Linda Gottfredson
The Path to Machine Intelligence – Numenta
AI A modern approach – Russel and Norvig
Our Final Invention - James Barrat
http://singularityu.org
http://singularityhub.com
http://waitbutwhy.com/
Kilder og lesning

96. Kilder