2. Обо мне
• Юденко Николай
• Более 15 лет опыта разработки в IT
• За все эти года выполнял практически
все роли в жизненном цикле ПО: от
постановщика задачи до
руководителя проекта
• На текущий момент – Java+Android
разработчик
email: unick04@ua.fm
Skype: unick_
7. 3 закона робототехники
Закон 1:
Робот не может причинить вред человеку или своим
бездействием допустить, чтобы человеку был причинён
вред.
Закон 2:
Робот должен повиноваться всем приказам, которые
даёт человек, кроме тех случаев, когда эти приказы
противоречат Первому Закону.
Закон 3:
Робот должен заботиться о своей безопасности в той
мере, в которой это не противоречит Первому и
Второму Законам.
Айзек Азимов (1942 год)
8. Закон 1
безопасность человека
Безопасность человека — такое состояние человека, когда
действие внешних и внутренних факторов не приводит к
смерти, ухудшению функционирования и развития:
- организма
- сознания
- психики
- и человека в целом
9. Закон 1 – безопасность
Безопасность — состояние защищённости жизненноважных интересов
личности,
общества,
организации,
предприятия
от потенциально и реально существующих угроз, или
отсутствие таких угроз.
10. Обеспечение безопасности
• Соблюдение законов
• Соблюдение норм и правил техники
безопасности в данной предметной
области
• Соблюдение физических законов
безопасности человека
• Выработка системы защиты
• Изоляция и нейтрализация источников
потенциальных угроз
11. Цена ошибки
Передозировка при лучевой терапии.
Дефект в компьютерной
программе, управлявшей
радиотерапевтической
установкой, привёл к
переоблучению пациентов
с 1985 года по 1987 в
клиниках США и Канады.
12. Цена ошибки
Аварии в космонавтике
1) Ariane 5 – 1996 год
(финансовые потери)
2) Аппараты исследования
Марса – 1999 год
(финансовые потери)
3) Морской старт – 2000 год
(финансовые потери)
4) Шаттл Columbia – 2003 год
(погибли 7 астронавтов)
17. Примеры из личной
практики
Приложение: АСУТП на
ЖД. Автоматическое
управление питанием.
Уровень напряжения от 3.3 кВ до
220 кВ
Проблемы:
- Обеспечить безопасность людей
- Отсутствие тестировщиков в проекте
- Недостаточные знания в предметной области
18. Примеры из личной
практики
Приложение: Система
управления доступом в
помещения.
Проблемы:
- При отключении электричества люди оказались
заблокированными в помещении.
- Дилема: безопасность компании или безопасность
людей?
19. Примеры из личной
практики
Приложение:
Информационный веб
портал для узкой целевой
группы.
Проблемы:
- Была обеспечена информационная безопасность
- Отсутствие полноценной защищенности привело
к заражению ПК пользователей
21. Типы безопасности по
направленности
Прямая - направлена на
конкретного пользователя
(потребителя) ПО
Косвенная - направлена на
третьи лица
Смешанная – сочетание прямой
и косвенной
23. Закон 2
функциональность ПО
Робот должен повиноваться
всем приказам, которые даёт
человек, кроме тех случаев,
когда эти приказы
противоречат Первому Закону.
25. Закон 3 – защищенность ПО
ПО должно защищать само себя от
1) Человека (пользователя)
2) Другого ПО
3) От физического
воздействия
4) Самого себя
26. Защита от «дурака»
- Защита от любых
случайных действий
пользователя
- Защита важных функций
от пользователя
(использование по
незнанию)
- Защита от
злоумышленников
27. Защита от другого ПО
- Защита от ошибок в
другом ПО
(пассивная)
- Защита от атак со
стороны другого ПО
(активная)
28. Защита от физического
воздействия
Проблемы:
- Отключение питания
- Уничтожение
аппаратной части
системы
- Разрыв физической
связи с сервером
Варианты решения:
-
Автосохранение
Самовосстановление
Бекап
Возможность работать
в упрощенном режиме
29. Защита от самого себя
- Удаление своих данных
настройки
- Удаление части библиотек
- Чрезмерные защиты от
пользователя
- Невозможность изменить
свои настройки, которые
приводят к краху системы
- Удаление единственного
админа