iate lecture 2: quality assurance for highload systems

60
Обеспечение Качества Высоконагруженных Систем Иосиф Иткин, Exactpro Systems Вторая Лекция в ИАТЭ 27 ноября 2013

Upload: iosif-itkin

Post on 11-Nov-2014

1.016 views

Category:

Documents


1 download

DESCRIPTION

 

TRANSCRIPT

Page 1: IATE Lecture 2: Quality Assurance for Highload Systems

Обеспечение Качества Высоконагруженных Систем

Иосиф Иткин, Exactpro SystemsВторая Лекция в ИАТЭ27 ноября 2013

Page 2: IATE Lecture 2: Quality Assurance for Highload Systems

Содержание лекции

1. Автоматизация тестирования2. Обработка результатов нагрузочного тестирования3. Системы мониторинга и контроля биржевого рынка

http://www.slideshare.net/IosifItkinhttp://exactpro.com http://tmpaconf.orghttp://its-trading.ruhttps://vk.com/clubqahttp://linkedin.com/in/iosifitkin

Page 3: IATE Lecture 2: Quality Assurance for Highload Systems

Что такое автоматизация

Автоматизация — одно из направлений научно-

технического прогресса, использующее саморегулирующие

технические средства и математические методы с целью

освобождения человека от участия в процессах получения,

преобразования, передачи и использования энергии,

материалов или информации, либо существенного

уменьшения степени этого участия или трудоёмкости

выполняемых операций

Page 4: IATE Lecture 2: Quality Assurance for Highload Systems

Что такое автоматизация

Page 5: IATE Lecture 2: Quality Assurance for Highload Systems

Взаимодействие с системой

Page 6: IATE Lecture 2: Quality Assurance for Highload Systems

Взаимодействие с системой

Page 7: IATE Lecture 2: Quality Assurance for Highload Systems

Подходы к кодированию

1.Запись и проигрывание

2.Линейный подход

3.Модульный подход

4.Тестирование основанное на данных

5.Ключевые слова

Page 8: IATE Lecture 2: Quality Assurance for Highload Systems

Запись и проигрывание

Page 9: IATE Lecture 2: Quality Assurance for Highload Systems

Линейный подход

Page 10: IATE Lecture 2: Quality Assurance for Highload Systems

Устойчивость Тестов

Page 11: IATE Lecture 2: Quality Assurance for Highload Systems

Модульный подход

Page 12: IATE Lecture 2: Quality Assurance for Highload Systems

Тестирование основанное на данных

Page 13: IATE Lecture 2: Quality Assurance for Highload Systems

Тестирование основанное на данных

Page 14: IATE Lecture 2: Quality Assurance for Highload Systems

Ключевые слова

Page 15: IATE Lecture 2: Quality Assurance for Highload Systems

Ключевые слова

Logon TestPetya/Password123

Open Order Ticket

Send Order VOD.L 23@985

Order Ticket Should Be Closed

No Error Message

Page 16: IATE Lecture 2: Quality Assurance for Highload Systems

Риски использования инструментов

По ISTQB:• Нереалистичные ожидания от инструментов• Недооценка времени, затрат и усилий требуемых при

первоначальном внедрении• Недооценка времени и усилий необходимых для достижения

существенных результатов• Недооценка усилий требуемых на поддержку• Избыточная зависимость от инструмента

Page 17: IATE Lecture 2: Quality Assurance for Highload Systems

Уроки робоапокалипсиса

• Легко научить робота совершать действия, гораздо сложнее

научить его понимать последствия своих действий

Page 18: IATE Lecture 2: Quality Assurance for Highload Systems

Уроки робоапокалипсиса

• Легко научить робота совершать действия, гораздо сложнее

научить его понимать последствия своих действий• Относись к искусственной жизни с уважением

Page 19: IATE Lecture 2: Quality Assurance for Highload Systems

Уроки робоапокалипсиса

• Легко научить робота совершать действия, гораздо сложнее

научить его понимать последствия своих действий• Относись к искусственной жизни с уважением• Не выкидывай старого робота

Page 20: IATE Lecture 2: Quality Assurance for Highload Systems

Уроки робоапокалипсиса

• Легко научить робота совершать действия, гораздо сложнее

научить его понимать последствия своих действий• Относись к искусственной жизни с уважением• Не выкидывай старого робота• Спрашивай себя зачем ты создаешь нечто

Page 21: IATE Lecture 2: Quality Assurance for Highload Systems

Уроки робоапокалипсиса

• Легко научить робота совершать действия, гораздо сложнее

научить его понимать последствия своих действий• Относись к искусственной жизни с уважением• Не выкидывай старого робота• Спрашивай себя зачем ты создаешь нечто• Главное правило робоапокалипса

Page 22: IATE Lecture 2: Quality Assurance for Highload Systems

Уроки робоапокалипсиса

• Легко научить робота совершать действия, гораздо сложнее

научить его понимать последствия своих действий• Относись к искусственной жизни с уважением• Не выкидывай старого робота• Спрашивай себя зачем ты создаешь нечто• Главное правило робоапокалипса

Page 23: IATE Lecture 2: Quality Assurance for Highload Systems

Уроки робоапокалипсиса

• Легко научить робота совершать действия, гораздо сложнее

научить его понимать последствия своих действий• Относись к искусственной жизни с уважением• Не выкидывай старого робота• Спрашивай себя зачем ты создаешь нечто• Главное правило робоапокалипса

Найди себе друга робота

Page 24: IATE Lecture 2: Quality Assurance for Highload Systems

Своровано у John Rauser

Page 25: IATE Lecture 2: Quality Assurance for Highload Systems

Виды обработки данных

• Агрегация

• Распределение

• Детали

Page 26: IATE Lecture 2: Quality Assurance for Highload Systems

Население Лондона

http://geopub.narod.ru/student/agapova/1/4.htm

Page 27: IATE Lecture 2: Quality Assurance for Highload Systems

Холера

Andrea Resmini, 5th Italian IA Summit, Milano 2011The Broad Street Pump Or Where The Frenzy of Orlando Met Pulp Fiction

Page 28: IATE Lecture 2: Quality Assurance for Highload Systems

John Snow / Ваня Снежок

15 March 1813 – 16 June 1858

Один из основателей

эпидемиологии

Page 29: IATE Lecture 2: Quality Assurance for Highload Systems

Агрегация

Page 30: IATE Lecture 2: Quality Assurance for Highload Systems

Вывод

Работа Ивана Снежного была принята со скепсисом в 1849 году

Корреляция не является доказательством причинно следственной связи

Page 31: IATE Lecture 2: Quality Assurance for Highload Systems

Примеры

Работа Ивана Снежного была принята со скепсисом в 1849 году

Корреляция не является доказательством причинно следственной связи:

Корреляция между результатом ЕР и наличием КОИБ-ов

Корреляция между результатом ЕР и явкой

Корреляция между результатом ЕР и присутствие наблюдателей на участке

Page 32: IATE Lecture 2: Quality Assurance for Highload Systems

Что это за цифры?

Корреляция?

68 из 210 = 32%

11 из 24 = 46%

Page 33: IATE Lecture 2: Quality Assurance for Highload Systems

Что это означает?

Корреляция?

68 из 210 = 32%

11 из 24 = 46%

9% vs. 16%

Page 34: IATE Lecture 2: Quality Assurance for Highload Systems

Какие Вам еще нужны доказательства?

Корреляция?

68 из 210 = 32%

11 из 24 = 46%

9% vs. 16%

Красивых – 100%

Page 35: IATE Lecture 2: Quality Assurance for Highload Systems

Рекомендация для Ивана

London Medical Gazette, 1849

«The experimentum crucis would be, that the water

conveyed to a distant locality produced the disease in

all who used it, while those who did not use it,

escaped»

Correlation is not causation

Page 36: IATE Lecture 2: Quality Assurance for Highload Systems

Эпидемия Холеры 1854 в Сохо

Pump handle removed

The majority of the deaths occurred during this period

Page 37: IATE Lecture 2: Quality Assurance for Highload Systems

Распределение

Page 38: IATE Lecture 2: Quality Assurance for Highload Systems

Распределение

Page 39: IATE Lecture 2: Quality Assurance for Highload Systems

Распределение

Page 40: IATE Lecture 2: Quality Assurance for Highload Systems

Кто такие Бины?

Page 41: IATE Lecture 2: Quality Assurance for Highload Systems

Кто такие Бины?

Page 42: IATE Lecture 2: Quality Assurance for Highload Systems

Кто такие Бины?

Page 43: IATE Lecture 2: Quality Assurance for Highload Systems

Гаусс?

Page 44: IATE Lecture 2: Quality Assurance for Highload Systems

Не совсем. А почему?

Page 45: IATE Lecture 2: Quality Assurance for Highload Systems

Что такое медиана?

Page 46: IATE Lecture 2: Quality Assurance for Highload Systems

Распределение по бинам

http://www.pnas.org/content/early/2012/12/19/1206770110.full.pdf

Page 47: IATE Lecture 2: Quality Assurance for Highload Systems

Turquoise MTF – Latency

Latency Distribution Average and Consistency

Metric uS

Average 100% 108

Average 99.9% 103

Max 99.9% 381

Max 99 191

Phil Penhaligan, EXTENT Trading Technology Trends & Quality Assurance 2012, Kostroma, Romanov Leshttp://extentconf.com

Page 48: IATE Lecture 2: Quality Assurance for Highload Systems

И снова Холера

Page 49: IATE Lecture 2: Quality Assurance for Highload Systems

И снова Холера

Pump handle removed

WorkhouseWorkhouse535 people 535 people

Private Private borebore

BreweryBrewery70+ 70+

people people Private Private

boreboreFree Free beerbeer

Street pattern an obstacle

People People evacuatedevacuated

earlyearly

Bad Bad waterwater

BROAD BROAD ST ST

PUMPPUMP

Page 50: IATE Lecture 2: Quality Assurance for Highload Systems

А при чем тут HФТ?

Page 51: IATE Lecture 2: Quality Assurance for Highload Systems

Самый быстрый и самый медленный сайты

Page 52: IATE Lecture 2: Quality Assurance for Highload Systems

Самый быстрый и самый медленный сайты

Page 53: IATE Lecture 2: Quality Assurance for Highload Systems

Система под нагрузкой

Page 54: IATE Lecture 2: Quality Assurance for Highload Systems

Выборы, выборы…

Page 55: IATE Lecture 2: Quality Assurance for Highload Systems

Наш друг Чурозавр

http://oude-rus.livejournal.com/542295.html

Page 56: IATE Lecture 2: Quality Assurance for Highload Systems

Чтобы такого сделать плохого

Манипуляция ценамиПереигрывание объемамиУход от налоговФинансирование злаИнсайдерская торговляПроскальзывание перед клиентомМногое другое…

Часто легитимная активность выглядит как злоупотребление, и наоборот

Page 57: IATE Lecture 2: Quality Assurance for Highload Systems

Market Surveillance Systems

• Поток сообщений• Незаметность• Агрегация данных• Гибкая настройка правил• Помощь в обследовании

места преступления и сборе

• доказательств• Хранение данных

Page 58: IATE Lecture 2: Quality Assurance for Highload Systems

Market Surveillance Systems

• Поток сообщений• Незаметность• Агрегация данных• Гибкая настройка правил• Помощь в обследовании

места преступления и сборе

• доказательств• Хранение данных

Page 59: IATE Lecture 2: Quality Assurance for Highload Systems

Market Surveillance Systems

• Поток сообщений• Незаметность• Агрегация данных• Гибкая настройка правил• Помощь в обследовании

места преступления и сборе

• доказательств• Хранение данных

Page 60: IATE Lecture 2: Quality Assurance for Highload Systems

Спасибо!

Источники информации:http://www.slideshare.net/IosifItkinhttp://exactpro.com http://tmpaconf.orghttp://its-trading.ruhttps://vk.com/clubqahttp://linkedin.com/in/iosifitkin