mediaguard: a model-based framework for building qos-aware ... · a number of technology and...

13
MediaGuard: a Model-Based Framework for Building QoS-aware Streaming Media Services Ludmila Cherkasova, Wenting Tang, Amin Vahdat Internet Systems and Storage Laboratory HP Laboratories Palo Alto HPL-2004-25 February 17, 2004* E-mail: [email protected] , [email protected] , [email protected] benchmarking, enterprise media servers, workload analysis, performance modeling, synthetic workload generator, admission control A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms and policies for streaming media services in shared cluster environments. First, workload measurements of existing media services indicate a "peak-to-mean" workload variance of more than one order of magnitude. It is difficult to overprovision service resources for such a highly variable workload, making the adaptive resource allocation and economies of scale of a shared hosting environment attractive for streaming media services. Second, in emerqing workloads based on enterprise, news, and music content, a significant portion of th e content is short and encoded at low bit rates. Additionally, media workloads display a strong temporal and spatial locality. This makes modem servers with gigabytes of main memory well suited to deliver most of the accesses to popular files from memory. Finally, end- point admission control for streaming services is more important than for traditional web services because a streaming media object delivered in the face of insufficient server resources is doubly bad, with wasted work at the server often resulting in aborted connection at the client. We present MediaGuard -a model-based infrastructure for building QoS-aware streaming media services -that can efficiently determine the fraction of server resources required to support a particular client request over its expected lifetime. The proposed solution is based on a unified cost function that uses a single value to reflect overall resource requirements such as the CPU, disk, memory, and bandwidth necessary to support a particular media stream based on its bit rate and whether it is likely to be served from memory or disk. We design a novel, segment-based memory model of a media server to efficiently determine whether a request will incur memory or disk access when given the history of previous accesses and the behavior of the server's main memory file buffer cache. Using the MediaGuard framework, we design a novel, more accurate admission control policy for streaming media servers that accounts for the impact of the server's main memory file buffer cache. O ur evaluation shows that, relative to a pessimistic admission control policy that assumes that all content must be served from disk, MediaGuard delivers a factor of two improvement in server throughput. * Internal Accession Date Only Approved for External Publication Copyright Hewlett-Packard Company 2004

Upload: others

Post on 23-Aug-2020

0 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

MediaGuard: a Model-Based Framework for Building QoS-aware Streaming Media Services Ludmila Cherkasova, Wenting Tang, Amin Vahdat Internet Systems and Storage Laboratory HP Laboratories Palo Alto HPL-2004-25 February 17, 2004* E-mail: [email protected], [email protected], [email protected]

benchmarking, enterprise media servers, workload analysis, performance modeling, synthetic workload generator, admission control

A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms and policies for streaming media services in shared cluster environments. First, workload measurements of existing media services indicate a "peak-to-mean" workload variance of more than one order of magnitude. It is difficult to overprovision service resources for such a highly variable workload, making the adaptive resource allocation and economies of scale of a shared hosting environment attractive for streaming media services. Second, in emerqing workloads based on enterprise, news, and music content, a significant portion of the content is short and encoded at low bit rates. Additionally, media workloads display a strong temporal and spatial locality. This makes modem servers with gigabytes of main memory well suited to deliver most of the accesses to popular files from memory. Finally, end-point admission control for streaming services is more important than for traditional web services because a streaming media object delivered in the face of insufficient server resources is doubly bad, with wasted work at the server often resulting in aborted connection at the client. We present MediaGuard -a model-based infrastructure for building QoS-aware streaming media services -that can efficiently determine the fraction of server resources required to support a particular client request over its expected lifetime. The proposed solution is based on a unified cost function that uses a single value to reflect overall resource requirements such as the CPU, disk, memory, and bandwidth necessary to support a particular media stream based on its bit rate and whether it is likely to be served from memory or disk. We design a novel, segment-based memory model of a media server to efficiently determine whether a request will incur memory or disk access when given the history of previous accesses and the behavior of the server's main memory file buffer cache. Using the MediaGuard framework, we design a novel, more accurate admission control policy for streaming media servers that accounts for the impact of the server's main memory file buffer cache. Our evaluation shows that, relative to a pessimistic admission control policy that assumes that all content must be served from disk, MediaGuard delivers a factor of two improvement in server throughput.

* Internal Accession Date Only Approved for External Publication Copyright Hewlett-Packard Company 2004

Page 2: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

MediaGuard: a Model-Based Frameworkfor Building QoS-aware Streaming Media Services

Ludmila CherkasovaHewlett-Packard Laboratories

1501 Page Mill RoadPalo Alto, CA 94303, [email protected]

Wenting TangHewlett-Packard Laboratories

1501 Page Mill RoadPalo Alto, CA 94303, USA

[email protected]

Amin VahdatDept of CS& E, UCSD

9500 Gilman Drive La Jolla,CA 92093, USA

[email protected]

�������� � ������ �� ������ � ��� �������� ����� ������

�� � ������� �� ���������� ������� �������� ��������� ���

������� ��� ������� ����� ������� �� ������ ����� ������������

����� �������� ����������� �� ������ ����� ������� ������ �

������������� �������� ������� �� ���� ��� ��� ����� �� �� �

������ � �� ���� � ������������� ������ �������� ��� ��� �

�� ��� �������� ��������� ����� �� ������� ������� �������� ���

�������� �� ���� �� � ������ ����� ���������� ������ ���

������� ����� �������� ������ �� ���� �� ��������� ����� �� ���

�������� ����� ��� ���� ����� � �� �� �� ������ �� �� ����

�� ���� ��� ������ � ��� �� ����� ������������ ����� ���������

������� � ���� ������� ��� ������ ������� !��� ����� ������

������� ��� � ����� �� ���� ������ ���� ����� � ������� ��� ��

�� ������ � ������� ��� ���� ������� �������� �������� ������

���� ����� ��� ������� ������� �� ���� ������� ��� ��� �����

����� ��� ������� ������ � ������� ����� ��"� ��������� �� ��

��� �� ������� ������ �������� �� ������ ���� ��� ����� ����

� �� ������ ���� ������� �� ������ ������� � �� �����

#� ������ ���������� $ � ����������� ����������� ��� ������

�� %�������� ������� ����� ������� $ �� �� ������ �����

���� �� ������ �� ������ �������� ��&����� � ������ � ������

��� ���� ��&��� ���� �� ������ �������� !�� �������� �������

�� ����� �� � ��� �� �� ������ �� ���� � ��� �� ����� � ��'�

������� ������� ��&�������� ��� �� �� ()*� ����� ������� ���

�������� �������� � ������ � �������� ����� ����� ����� ��

�� �� ��� ��� ������ � �� ������ � �� ������ ���� ������ �� �����

#� ���� � � ������ �� ��������� ������ ����� �� � ����� ������

� ������ �������� ������ � ��&��� ���� ���� ������ �� ����

���� ���� ���� �� ������ �� �������� ������ ��� �� �������� ��

�� ������+� ���� ������ �� ��,�� ���� *��� �� -����.����

���������� �� ���� � � ������ ���� ����� ��������� ����� ����

�� ��� ������� ����� ������� �� ����� ��� �� ���� �� ��

������+� ���� ������ �� ��,�� ���� /�� ��������� ����� ���

������� � � ��������� ��������� ����� ����� �� ������� ��

��� ���� ��� �� ������ ���� ����� -����.���� �������� � ���� ��

�� ���������� �� ������ ���� ����

1. INTRODUCTION��� �������� �� ����� �� �������� �� ����� ������ ���

�������� �� ��������� ���������� ������� ��� �������������� �������� �������� ����� ��������� ������� ���� ��� �������������� ����� �� ������ ���� ������ � �� ����� ��� ����� ���� ������ ���� �� ������� ����� �� ����� ����� � ������� �� ���������� �� ���� ����������� ����� �� ���� ������� ���������������� �� ��� ������ �������� �������������! ������� ���� ����� ������ ��� ���� ����� ����������� �� ���� �����! ��������� ��� ����������� �� � ������ ������� ������� ��������������� �"! #$! #%! #&! '(� �� � �������� ����� ������� ���������� �����������! ����� �������� ����� ������� ��� ������������� �� ���� ��� �������� �������� ���� ��� ��������������� ����� �� ���������� ��� �� �������� ������������! ������ �� ��������� ��������� �� �� ������� ��� �� ��������� �� ����� ������� �� ��������� ���� �� ��)����� ���� �������� ��������� � �� ����� �� ������� ��� ���� ������� �� ��� �����������������������������������! ������� �������� ��� ��� ��� ��� �� �� �����

��*������ ��� �������� ����� ������� ����� �� ��� ����� ��������� ������ ��������! ��� �� +,-! ������! ��� ����� � ������������� ���� �� � ����� .�� ��� ����! �� ���� � ���� ��������� ������� �� ������� ���� ������ /���� ������� ��������� ��� � �� � ��������� �� � ������� �������� �� ��������� ����� ! ��� ��� �� ���� �! �������! ��� ����� ���� ������������ �������� ����� +,-! ������! ��� ����� � ������������ ��� �� ������� ���� ����� ��� ���������! �������� ������� ������ ������ ������������0 ��� �� ������������ �� ���� �� �������� ����� �����

����� ������� ��������� ��� ����� 1������ �������� ��� ��������� ���� �� �������� ��������� 2�� �! ��� ���������� ������ �!���� �������! ������ ������! ��� ���� ����3 �4���� � �� � ��� ��� �� �������� ��� ������� �������� �������� 0�����������! ��� ��)��� ������� �� ����� ������ �� ����������� � ����� ��������� ������ 2# ����$� ���3! ��� ��� ������ �� �����! ���� ���� ��� ������ �������� ����������! ��� �������� �% 56�� #�% 56� +78� ����� ������� �������� �9��� ���� ����������� �� ��� ����� �� $( :7� 0� ��� ���� ����! ������ ����������� �� �� " ;7 �� ���� ������! ������ ���� ���� �� ��������� �� ������� ����� �9��� �� � ������ ���� ������!���� ���� � ����� ������ ������ �� ����������� )�� ������ ��������� ������� ��� ���� ��� ���� ���������� ���������� ��������� � ����! ��� ������� �������� �� � ��������� �������� �������� � �� ��)��� ����� �� ��� ������� �� ��� ������ ����������� ������ ���� ������ ���� ���� ��� ����� ������������ ������ ��� ���� ������ ���� �����

Page 3: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

0 )��� ���������� ��� ��� ���� �� ��� ���������� ���� ������ ���� ������� ��������� �� ��� ��������� ������ �� ��� ������� �������� �� ���� ��������� ��� �������� ������� ���� �������������� �������� �������� 0 �� ���� ��� � �� �� � �� ���� �� ���� ��� ������ �� � ��� ����� ����� ��� ������ ����������� <������! ��� ��� �9�� �� ��������� ��� ������ ���������� �������� ������� �� �� ��� ���� ���� ��� ���� �9������ ��� ���� ��� �������� ���� ������ <������! ��� ������������ �������� ����� ������! ���������� ������ ���� ����������� ����� � �������� ���� �� �� ����� ���� ������! ����������� ���� =�> �� ��������� ��� ��� �����?� ������ �� ���������������� ������! ��� �������� �� ��� ������ �������� ����� ������ ����! � �������� ����� ������ ���� ������ ���������� �������� ��� �������� �� ����� � �� ���� 2������� ������ �������� �� ��� ������ �� ����3� �� ���! ��� �� ���� ������ ���9���� ������ ���� ����� �� �� ������ �������� ���� ������������� ����� �� ��� ��� ����! ����� �������������� �� ����� ���=�> �� ��� ������ ������� ������� �������@�� �� ��� ����� ������� ��� ��������� ����������� ������

�� �������� ����� ������� �� ���� ��������� � ��� �� ������������� ����� � ���� �� �������� ��� �������� �������� ������������A ��� +,-6���� �����*����� ��� ��� �������� ������������� �������� �� ��� ������ �� ��� ���� �� ��������� ������ �����! �� ������� ���������� B � ���������� ������������ ������ =�>������ �������� ����� ������� B ���� �� ���)������ ��������� ��� ������� �� ������ �������� �� ����� ��������� � ��������� ����� �� ���� ���� ��� �������� ���! �� �������! �� �������� �������� �������� ������ ������� �� ��������4�! ���������� �������� � ��� ���)�� ��������� ��A

� :������ ����� ������ ������ ��� � ��� �� ��� ����������

� C����� ��� �� ������� ���� ���� � ��� �� ����� �� ���D�� ��� ������ ������� �� ��������� 2�� �! +,-! ����!������! ��� ��������3 �������� �� ������� � ���������� ����� ������� ��� �� ������� �� ������� ���� ������ �� ��� ������� ������������ ��� �� ���� �� ��������� �� ���� ��� ��� )�� ���� ����A ������ �� �����

� C�������� ��� ���� �� )�� ����! ����! ������� � �� ���� 2����� �������3 �� � ������ ���� ������ 2�� ����3! ���� � �����! �� �������� � �� ��� �� ��� ����� ������!���� �� ��� ������� �� �������� ������ ��� ��� ��������� ��� ������?� ���� ������ )�� ���� ����

� +������� ��� ����� �� �������� ������ �������� �� � �������� �� ���� �� ������� =�> ����������

/� ������ ���� ��� ���������� ��������� �������� � ����������� ��� ������ =�>������ �������� ����� �������� .���4�����! ������� ��� ��� ����� � ������ ����� ������ ��������������� ����� � ����� �� ������� ����� �������� ��� ������������ ��� ���� ������� ����� ������! ��� ��� ������ ���� ��� �����)�� ������� �� ��� ������ ��������� .�� ��� � ������ ������ ������ ������! ��� ������ �� �������� � ����)�� ����� �������� �������� �� � ��������� ������ ������ �� ���� ������������� ������ �� �������� ��E �� ������ ������ �� � ���� �

����� ����� ������ � �� ���������� ������� �� �� ��������� ������� ������A �� ���� ����� � ��� �� ���� �� ������ � ���� ��������*�� ������ ������ � ������ � �� ���� � ��������� ��E��� ��9�� ��� �� ���� ���������� +�������� ����� ������ ���������� �� ��� ���� ��������� ��������� ������ �� ������� �������������� �� �� ������� � �����)��� ������� �� ������ ���������� � ��������� �������-��� ���������� ���������! �� ���� � � �����! ���� ���

���� ��������� ������ ����� ��� �������� ����� ������ 2������������������3 ���� ������ ��� ��� ����� �� ��� ������?�

���� ������ )�� ���� ���� @�� ���������� ���������� �������� ���� ������������� �� ������ � ����� �� ��� ������������ �������� �� �� ��������� ������ ����� ���� ��������������������� ��� ������ ���� � �� ����� @�� ���������� ����������� ���� ���� ���� F(E �� ����� �� ����� �� � ������ ����� ������! ��� ����� �� ����� ����� ��� ���� ���� �(E �� ������ ���� ��������� � ��� ������ ���� ��� ��� ����� ������ �������������� ����� ��*� �� )�� ���� ���� @�� ��������� ��� ������ ��� ������ ����� �� �4����� ����� ����������� ���� �� ���� ����� �� �� ���*�� �� �������� >����� # ���D�

������� ��� ������� ����� >����� ' �������� ��� ������� ������� ������ ��������� � >����� " ��������� ��� �� ��������� ������ ������ >����� � ������� �������� ��� ���� ���������� ������������ ��������� ��� �������� ���������������������� ���������� /� ������� ��� ���������� ���������� �������� �� >����� %� .������! �� ������ ���� � ������� ������������ ��� ������ ���� �� >����� F�

2. RELATED WORK0 ��� ������ ���������� ������ ��� �� ������ � ��� � �����

�� ������ ��������������� ;���� ��� ��������� �� ��������� ����� �����! � ���������� ������ ��� �� ������ ��������� ������� �� ������� �� ����� ������� � ��� ����� �� ���� �� ��������� ������� �������� ��� ������ �� ������ �� ����������� ��� ������� ������ �� ������ ����� ��� ��� � ��� � ����� ������� ���� �� ��������� ������ �� �������� 14����� ���������� ������ ������ ���� ������ ���� ��� ��� ���� ���������� ��� �� � �����)�� � ��� ����� �� =�> �������� �� ��������� �#F��

����� ������ ��������� ������ ������ ������� ����� =�> ���������! ���� ��� ��������� ������ �� ��������� ����������� � �������� ��� ��� ������ ������ ��������� ��� ������������ ��������� ������ �� ������� ��� ��������*�� � �������� ��� ����������� �� ����� ��� ������ ���� ���� ���� �$$!##! #�! #G! '$! %�� :��� �� ��� ������������ ��������� ������� ������ ������������� �������� ��� ����� �� ������ ������ � ������� ��������������! ��� ���� ���� �� ������ �����������*����� �� ������ ����������� �#F! $"! #! $#�! ��������� ��������� ������ �� ������� ���

���� ��� ���� ������� ���������� =�> ��������� ������� �������������� ����! �������� �� �� ��� ������� �����*����� ��� ������������ ��������4�� ���� >��������� ��������� ������ ������������� �� ��� ������ ���� �� ������ ���� ��� ��������� �� ����������� ���� ��� �4��� � �����)��� ���������� :��� �� ��������� ��� ������� �� ����� � ��� ��������� �� ������� �� ����2H783 ����� ;��� ��������� ��� �������� �� ������������������ ���������� ��������� ������ ������ ��� �� �������� �� �$�!'! $F��+��������� ����� )�� ������� �� ���� ���� ������� ������ ���

������ � �������� �� ����� �� �������� ������ �������� �� ������� �� ������� ����� �������� ������ ����! ������� ��� ��������� ��������� 0 ��� �������� �� ���������� ��� �������� � ������� �� ������� �� ��������*�� ��� �������? ���������� �� �$�! $&! $G� ��� ��������� ������ �� �4������ ������� ����� �� ������ ��������� �������� �� ��� ������ �����0 ��� � ������� �� ���������� ����� � ������� ��� ������

�� ������*�� ���� �������� ��� �������� ������� �� ������������ ������� <������! ����� �� ������� ������ ����������� ��� ��� ������� �� ��� ���������A ��� ���� ������ ��������� ���� ���� �� ��� ����� �� ����� �������! �� ����� ������������ ������ ������ �������������� +�������� ������� ��������� �������� �� ��������� �� ������� ,������� �� ����������� ������ ��� ��� ����� ��� �� ���� ���� �� � ���� ��������

Page 4: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

�� ��� ������! ��� ���������! �� �� ���� � �������� �������!��������� ��� ����� �� ���������� ��������� ������ �� ���������� ����� ���� ��� ������� ������� �� ����� ������ ������ ��� �� ������� ��� ���� �������� ���������� �F! $'! #(!#'�� ��� ��� ���� ����� ���� ������ �� �� �������A �� ��������� �� ���� ��� ���� ����� �� �������� ������ �� ����! ��������� ��� ������ ��� ������ ��� � ���� ��� ���� ���� �� �������� ��� ���� ���� �� ����� �� ��� ������ ���� ��������� ����� ������ ����� �� ���� ���� ���� ���� ���! ����� ��� ����������� ���� � ��������� ��� �������� ����� �� ����� �� ���� )���+������ ������� �� ���� ����� �� �� �� �������� ������� ������������� �� �G� ���� ������ ���� ���� �� � ���� � ����������� ���� �� ��� �������� ������ ��� ��������� ���������������� ��� ���� �9��� @�� ���� ������� ������� �� ������� ��������� /� ���� � � �� ������� ����� �� � ����������������� ������ ���� I8- ���������� ������ � �� ���� �� ������?� �������� ������� �� ��D�� ��� ������� ��� ����� �������� ����� ���� �� ��������� ����� ����������� ��� �������������� ����� ������������� ������ ����� �� ��������� ������� ������� �� �����

������� ��� ��� �� � ��� �� ��� ������ �� ������� �� ��� ����������� ��� ���� � �� �������� ������� ���� ����� �� ��������� C��� +������ �$! "! #$! $(! #%! &�� �� �"! #$! &�! ��� ����������� � � ��������� ��� ���������� ��� ������� ���� ������� �C+� ���� �� ������ ���������� �� �$�! ��� ������� �������� ������� ��������� �� � ��� @> ��������� ���� ������)��� ������ ������� ���� ����� �� ������� �������� �� ������� �� ���� � �������� ������� � ������ � ��������� �������� ��� ���������� ������� ���� ��� ������� �� ������������ �������� ��� ���������������� ������� ��� ���� �� ��������� ��������� �� �$(�! ��� ������� ������� � �������� ������������ ������ �� ������ ������*�� �������� ����� ���������������� �� �� �C+ ����������� ���� ������� ���������� � ������� ��������� �� ��� ����! �� ������� ��� ����������������6��������� ������ ������ �� � ���� ������ ������ !����� ����� ��� �������� ���������! ��� �������� ������ ��������� ��� ����� � ����� ������ ����������� �� �#%! &�! ���������� ������� ��� �������� �� ���������� ���)��� ��� ���� ���� ������6��������6���������� ������! ���������� � ������������� ���� �� @�� ���� ������� ������� ������� ��� ����������� ��� �������� ����������� ������ ��� �� ����� ��������� ����� ������� ���� ��

3. MEASURING MEDIA SERVER CAPACITY+�������� ����� ������� ��� �������� ��������*�� � ���

����� �� �������� ������� � ������ �� ������� ������� ������� � ������ ������! ���� ����� ��� ��������� ��������� �� ��������� �� � ���� 0 �������� �������� ������ ���� ��������� � ��4���� ����� �� �������� ������� ��������� � ��������� ���� ��� ��� ������ ��� ������ ��� ���� )�� �������� � ������ �� ����! �� � �(( 56�� <������! � ���������������� �� �������� ������ �� �������� �� ����� �������� ��� ���� �� ������ ��� � ��� ���� ���������� �� ������ ��� ������������� �������� �� ��� ��������� /��� ��� ��� ���������� �� ����� �������� ���� ��������� ����� ������ �������� �������� �� �����J .�� �4�����! �� � ����� ������ �� ������� ��������� � �������� ������� ������ �� �(( 56�! �������� ������ � ����� �� ��������� # � � �������� ������������� �� #�( 56�J ��� ����� ����� ���� � �������� ��������� ������ ���� �� ���� ��� ��� ������ ��� ������ ��� ����)��� ���� ������� ������� �� ������ ��A ��� ��� ����� ���������������� �� ������� ���� �������� ������ �������� ��������2��� ��3 )��� �� � ����� ������J

/� ��� ��� ��� �������� ��� ���������� ��� ����� �������� ������ ������ ���� �������� ����� ������� ��� ������ ���������� �� �����A

� ������ ���� ����� ��� B �������� � ����� ������ ���������� ��� ��� ������ �� ��� ���� ��� ������ ��� � � ���K

� ��� �� ���� ����� ��� B �������� � ����� ������ ������� ���� ���� ������ �� ��� ���� �� ������ � ������������

1�� �� ����� �������� ������� �� � ��� �� ��������������� ����� ������ ������ �� � �������� �� ���� 2�� ��� �����!�� ���� ��4 �� ����� ����������� ��� ������ �������� ��������A #G 56�! �% 56�! $$# 56�! #�% 56�! '�( 56�! ����(( 56�3� -��� �� �4���������� ������ ���� �������� ���������� ��� � �������� ��� �� ��� ��������! �� �������������� ��� ����� ����� �� � ����� ������ ������ 8���>�����G�( ���� 8���L�������� ��� ��) ������� ��� ��� ������ ����������� �� ��� �4���������� ����� ��� �������� ����� �� ��������� ������� ��������� ���� ��������� ���������� �������������� �� ������� �6@ �������� ������ ��� ������ ��� ��� ������ � ������! �� ������� ������� �������� ������ ��� ��������� ��� �������-���� ��� ������ ���� ����� ���! ��� ����� ������ �� +,-

������A +,- ������ $((E �� �����*�����! ��� �� �� ��� ����������� ���� ������ ������ ����������� �� ������! ����� ��������� ���� ����� ��� ���� ��� ������ ����� � )�� ���� ��� ����!����� ��� ��� ����� ������� ���� ��� ����������� ���� ������� )�� ���� ���� ����! ���������! ���� ������� ��������� �������� ������ ������ ���� ��� ����� ������ �� ������������� ������� .�� ��� �� ���� ����� ���! ��� +,- �����*������� ��� ����� ���� ��� ������ ���� ����� ���� .�� ��� ��� ������� ���� �����! �� �� ���� "�E ��� �� �� ��� � ������� ���������� ������ ����������� -���� ��� ��� �� ���� ����� ���!��� ������ ���������� �� ���������A ���� ��������� ���������� ���� �� ������� ���� ��� ����� ���������� ������ ��� ��4����� �������� ��������� � � ���� ������� �� ��� ������� �������� ������� �� �� ������� ������� �������� ��������������� �����������.� ��� $ �3 ����� ��� �������*�� ���� ��D���� ��� �����

����� ��� ��� ����� ������ ������ ����� ��� ������ ���� ������ ��� ��� �������� ������ �� ������ �� ���� ) ���! ����� 2$!$3�������� ��� ��4���� ������ �������� � � ������ ���� ������ ������ �� ��� ���� ��� ������ ��� ���� )�� ������ �� ��(( 56� �� ����� 1�� ������� ����� ��� ��� ����� ������ �� ����� �� �������*�� ���� ������ �� ��� .� ��� $ 3 ����� ���������� �������*�� ���� ��� ��� ��� �� ���� ����� ������� ����������� ������� ���� ���� ��� ����� ����� ��� ������

������ ���� �������� ����� ������� ��� ������ �� ���������� ����� ��� ����������� .�� �4�����! ��� �������� ������ ����� ���� ��� ������ �� ����� �� ����� ������� ���� �� ��� �4���������� �� $G ������ <������! ��� �������� �� ��� ��4��������� �� �������� ������� � ������ �� ����� �� ��������� ��� ����������� �� ����� �� ���� ������ & ����� ��� ��� ���������� ����� ��� �� ����� �� .� ��� $ �3! ��� $( ����� ��� ������ �� ���� ����� ��� �� ����� �� .� ��� $ 3��� ��� �����! ��� ����� ������ ���������� �� #���' �����

�� ��� ����� ��� ������ ���� ����� ��� ���� ����� ��� ��� ������ ����� ��� �� ����� �� .� ��� # �3� ���� �����)�� ������������� ���)�� ��� ���������� ����������� ���� ������������ ��� ��������� ���� ������� .� ��� # 3 ����� ��� ������������ ��4���� �������� �� :6� ��������� � ��� ������ ������ ��� ��� ������ ��� ��� �� ���� ����� ���� ������������ ��� ��������� �� � ����6)�� �������� ���� �� ��� �����

Page 5: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

�3

0

2

4

6

8

10

12

14

16

18

0 2 4 6 8 10 12 14 16 18Nor

mal

ized

Ser

ver

Cap

acity

in S

trea

ms

Normalized Stream Encoding Bit Rate

Single File Benchmark: Scaling Rule

Server Capacity ScalingLinear Function: y=x

Linear Function: y=k*x

3

0

2

4

6

8

10

12

14

16

18

0 2 4 6 8 10 12 14 16 18

Nor

mal

ized

Ser

ver

Cap

acity

Normalized Stream Encoding Bit Rate

Unique Files Benchmark: Scaling Rule

Server Capacity ScalingLinear Function: y=x

Linear Function: y=k*x

���� � �� ������ ������ ����� � ����� � ���� �� ��� �� ���� 0�������� �� *��&�� ���� 0��������

�3

0

500

1000

1500

2000

2500

3000

3500

0 50 100 150 200 250 300 350 400 450 500Ser

ver

Cap

acity

(C

oncu

rren

t Str

eam

s)

Stream Encoding Bit Rate (Kb/s)

Single File vs Unique Files Benchmark

Single File BenchmarkUnique Files Benchmark

3

20406080

100120140160180200220

0 50 100 150 200 250 300 350 400 450 500

Ban

dwid

th (

Mb/

s)

Stream Encoding Bit Rate (Kb/s)

Delivered Bandwidth

Single Benchmark (From Memory)Unique Benchmark (From Disk)

���� � ��������� �� ������ ������ ��� ��� �� ���� �� *��&�� ����� 0�������� �� �� ����� �� �������� �� ���������

�� ������

������ ��) �������� �� ��� ������� �4���������! �� ���������� �������� )�� ������� ��� ���� ��) ��������A �� �� ��� ��������! ���� � ����� ������ ����� ���� �� '�F ����� ����� �������� ��� �� ���� ����� ��� ������� �� �������� ����� ����� ����� ��� ������ ���� ����� ���! ���� ��� ��4���� ������ �� ����� ������� ��������� ���� ������ �� � '�F ������� ��� ���� ��� ��4���� ����� �� ����� ������� ������������� �������� ����������� ������� ���� �� �� ���������� ��������A ���

�������� ������� ���� ������ ������ ���������� �� ���� �� �����4���� �������� ��������� � ��� ����� ������ ��� �� ����������� ���������� C������� ������ �������� ��� ������� ������ ������ ���������� ����� ��� �������� ��� ���������-���� ��� ������ ���� ����� ���! ��� ������ ���������� ��+,- ������! ����� ����� ��� ��� �� ���� ����� ���! ��������� ���������� �� ���������� 0 ������ ����� ������ ����������� � ��������� �� ���� ������ ������ ��� ���� )���2����� ��� ���� ������ �� ����3 ��� ���� ������ ��������� ������� ���! �������� )���� -���� ��� ���4��� ��������! ������� �+,- ��� � ���� ��� ��� ������� ���������� ������ ��������!��� ����! ���� �� ��� � ���� ��� ��������� �� ��� �������������� ���������� ��4� ������� �� ������ ��A ��� �� ������ ��� �4�����

����� ������ ������ ��� � �������� �������� �� ��� ���������������� �� � �������� ����� ������ ����� ��� ��� ��������� ��� ����� .����! �� �������� � �� ������� ����������� ��� ��� �� ��� ������� ������������� �����������! ������ ������� ��)��� ��� ������� �� ������ �������� ������ ��������� � ��������� ������ �������� �� ��� )�� ������ ������ ��� ��� ���� ���� �� ��� ����������� )���/��� ��� ������ ��������� � � ������ �� �������� �� ����

����A� � �� ���� �� � ������ ��������� � ����������� )��2�� ��� ����������� ���� �� ��� )��3 ���� ������K

� ��� ���� �� � ������ ��������� � ����������� )�� ���������

0�����������! �� ��� ��� �������� ���������A� � � ��� ������ � � ��� �� ������ �� ����� �� ��� )��� ������ ��� ��������!

� ���������

� ��� ��4���� �������� ������ ������ �� ��������� ������� ����� ��� ������ ���� ����� ��� ��� � )�������� �� �� ��!

� ��������

� ��� ��4���� �������� ������ ������ �� ��������� ������� ����� ��� ��� �� ���� ����� ��� ��� �)�� ������ �� �� ��!

� ������� ��

� � ����� �� ��� ������� ��� � ������ ���������� ���� �� � )�� ������ �� �� ��!

� ����������� � ����� �� ��� ������� ��� � ������ ���� ����

���� �� � )�� ������ �� �� ���-���� ��� ��� �� ���� ����� ���! ��� ��� ������� ���� � �������� ����� <��� ��� ������ �� ����� � ������� �� �������������� ��)��� � ��� ����������

������-���� ��� ������ ���� ����� ���! ��� ������� ������ �����

��� ����������� )�� ���� ����! ����� ��� ���� �� ��� ��������������� ��� ����������� ���� ���� ������ ���! ����������� ���� � ������� �� ������ �������� ��)��� � ��� �������

���

I�� $ � ��� ����� ������ ������� ��� �������� ��������� ����� ������ ��� ��4���� ������ ������ �������� ������ ��� �� ��� �������� ��� ��� ������ �� ���� �� � �A

��������

� ����������� �

�� ����������� ��������

��� ��� �������

��� �

7� ������ ��� � ������� ����! �� �� ������ ��� ����������� ��� ������� ������A

�����������

��������

������� ��

���������

� �

��������

� ����������

� ��

I�� � � ��� ������ �������� �������� � � ����� ������!�����

� �� � ��� ������ � � ��� �� ������ �� ����� �� ��� )������� �� � ��� � ��!

� ���� ���

� � ����� �� ������� ����� � ������ ����

���� ��� � ����� �� )��� ������ �� ��� ��!

� ��������

� � ����� �� ������� ����� � ���� ���� ���� ���

� ����� �� )��� ������ �� ��� ���

Page 6: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

���� ��� ������� �� �� � ����� ������ ����� �������� � ��� ������� � � �������A

�� �

������

���� ���

� ������� ���

������

��������

� �����������

���

�� �� � � ���� ��� ����� ������ �������� ������ ��� ������!��� ��� �������� ���� ��)��� ��� ������ �� �������� ������������� /� ��������� ���� ���������� ����� � ������� ��� �������� 2�������3 ��� �������� ����� ������ ����������� � ��� �� �������� �������� ��������� 2���� ��������� ��)����� ���� ��43� ��� �������� ������ ������ ������ ��� �4������ ������ ������ ���� ���� ��� ������� ��������� 2���� �������� $E�GE3���������� �� ������� ���� � ��� �� ����� �� ��D�� ��� ���

���� ������� �� �������� ��� �� +,-! ����! ������! ����������� �������� �� ������� � ��������� ����� ������ ��������� �� ��� ������ �� ���� ��� ���� �� ��� )�� ����A ������� �� ���� ����� ��� �������� ��������� �������� � ���������� ������ �� � ������ ������ 2����� �� �����3 ���� �������������� ������ ������� �� ���������� �� ����� �� �� ����������� ��������� �� ��� �������� ������ ������� �������� ���� � ������ ����������� �� ��� � ������ �� ��� ������ �������.�� � ���� ������� �� ���� ����� �� ����! �� �� ����� ����������� ��������� ������� ������ ������� �������� �� ���������� ��� �������

4. SEGMENT-BASED MEMORY MODEL�� ����� �� ���� � � �� �� � ����� �� ����! �� ���� �� ������

��� ������� � ��� �� ���� ���� � �������� ���� ���� �������� ���� � ������ ���� ���� ����� L���! ���� ������ �������� ��� ������ �� �� ���� ���� ��� ����� )�� ������� �� ������A�� ����� �� � �� ���� �� ������ �� ��� ���� )��! ������ �������� ��� ����� �� � ���� ����! ���� ��� )��� ���� ��� ���� �)�� ���� ����! ����� ��� ���� ���� �� ����� ��� � ������ ��� ����������� )�� ���)4 ���� ������� ����! �� ����� ���������� ���� � � �� �� � ����� �� ����! � ����� ��D���� ���� )�� �� ����� ��� �������� ������� �� ������ �� ������������ ���� ����� ��� ��������� ������ �� �������� ���������������� ��� ��� �� ������� ���� �� )�� ������! �� ���� �� �����! �� �������� � �� ��� ��D���� ���� ������ �������� �� � ������ �� ����� )�� ������� ���� ����� �����������4������ ��� ����� ������ ������� ���� ��� ����� �������������� ���� � ������ @> )�� ���� ��� ���� I8- ����������������

4.1 Basic Definitions and Notations.�� ��� �� ���� �! �� ��)�� ��� �������� ����������

� � ����� B ��� ����� )�� �� ������ � ��

� ���� ����� B ��� �������� �� � ����� �� �������

� � ������� B ��� ������ �� ���� �� ��� ����� )�� �� ������� �� �� ���� �����! �� ������ ���� )��� ��� ������ ��������� �� ������

� ��������� B ��� ���� ���� � ������ ����������� �� �� ����� ������ 2��� � �� ������3�

� ������� B ��� ���� ���� � ������ ��������� � �� ���� ������������ �� ���� ����! �� ������ �������������� ������������� � ���� ������� ��� � ���� ����� )�� ��������A ������� � �� ���� �� ������! �� ���� ������ ����� ��� ���A���� ����� � ������� � ����������

��������� ������� ������ � � ��������� �� �� ���� ��� ��� ����

���������� � ��� �� �� ���� �����

��� ��������� ������ �� �������� ����� ����������� �� ������� �������� �� ������� ������ ���������� I�� �� ���� � �� �� ������� ���� �� )�� � ���� ��� � ����� �� ��� )��� .�����������! ��� �� � � ���� ����� ���� ����� �� ��� �� ���� �!��� ������! ����������� � � ������! ���������� �� ��� ��������� ��� �� ��� )��� ��� �������� �� ����������� )�� ���)4 ��)������ ����� �� ���� � ����������� ���� ���� �� ������ ���������� �� ��� �����A �� ��� �4�����! �� �� �� ��� � � ��������:�������! ��� ��������� ������ �� )�� ���� ��)��� ��� ������������ ������� �� �������� )�� �� ����� �� ������� �� ��������� ��� ���� ������� ���� ��� � ����� �� ��� )�� 2�� ��� � ���

�� ������ ��� )�� � ����� 3 �� � ���� �� ������ ��� ����������� )�� �� ���� ��� ��� �������� ���������� �� ���� )���� ���� �� �������.�� ������������! ��� �� ������� ��� �������� ������ �4������

I�� � ����� ������ ���� � ��� �� ������! ��� ��� ����� )��������� �� ��� ����� ������ � ��� ������ � �� ��� ��� �������� ��� ��� I�� �� ������� ��� �������� �� ���� �� �� ������������ �� ����� �� .� ��� 'A

� �� ���� �� ��� � )�� �� ������� �� ���� �� � � ���K

� �� ���� �� ��� � )�� �� ������� �� ���� �� � ��� ���K

� �� ���� �� ��� � )�� �� ������� �� ���� �� � ��� ����

mem

2

t3r3

r2

r1

Tcur

1

200

t

0

Bytes Transferred: 120MB

t

Size = 100MB

time (sec)

=500100 150

���� � ������ ��������

I�� �� �������� ��� ������ ����� �� ���� ����� ���� � ��� ����0� ���� ���� �����! �� ���� �� ��� ����������� ��� ����������� �

�� ��! �� ���� �� ��� ����������� ��� ���� ��� ���� � �� ��!��� �� ���� �� ��� ����������� ��� ��� � ��� ���� � �� ���/���� ��� ������� ����� �� ���� ����������� � ����� �� ������� ��� ��! ��� ������ �� ���� ���� ��� �� �� ��� ������ 2���������3 �������� �� ����������� )��� ���� ��� ����������� � ����������� )�� �� �����A

� � �� ���� �� )�� �� ������ ��� ��� ��� ��� ��� �� ��� ���������� /� ��� � ���������� ����� ��������� �� ������ ������ ����! ����� ������ �� � ��� ������ ��� � ����� ��� ��� ��� �� �� ����! ��� � ����� �� �23� ��)��� ��������� ��������� �� ������ ����������� �� ��� � ������ �� ��� �� �����

� � �� ���� �� ��� )�� ��� ���� ���������K

� � �� ���� �� ��� )�� ��� ��� ����������

���� ��� ��������� �������� � ���� �����4������� �� )�� �� ������ ������ �� ������ ��� ����� �������� ���� ������� 2����������3 �� ������� ���� ��� ������ �������������� �� ����� �� ���������� ������� � ��� ����� �� ���� ���� � ���������� ������ �� ����� .�� �4�����! �� � ��� �� ���� ������ ��������� ���� ���� � ��� ��� �� ���� � ������ ���� ���� ����� ��� �������� ���)4 �� )�� �� �� ������� ������ ���� ������� <������! ��� ��� �� ���� ������ ������� �� ���� ���� � ��� ��� �� ���� � ������

��� � ��� �� ��������� � � ��� ������ �� ������ ���� � � �� � ����

� � ��� ����� �� ����� ���� �� ������� ������� � � ������ � ������������ �� ��� �� ������ ���������� �� ��� � ���� � ��� ����� � ����������� � ��� �� ������ �� ����� ����

Page 7: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

���� ������ ����� ��� ������� ���)4 �� ��� ����������� )���� ������� �� ��������� ����� ��� �������� �������� ������ �� ��� � � )�� � ����

�� ����� ���� � ����� ������� ���� �� �� )�� ��� ����������� )�� �� ����� ������� �� ������ 2������� �� ��� �4����� �������� ����3� �� ��� ��4� ������! �� ������� � ��� �� ������������� �� ������ ��� ��� �� �� ��� �� )�� � ���� ������� ����� ���������� ���� ��������� �� � �� ���� �� ������� �� � �.�� ��� )�� � ! �� ��� ��� �� � �� � ������� �� ��� �� ������

/��� ��� ���� ������� �������������� �� ���� ���� ������ ���� ����� �� ��� ��� )��� ���� ��� �������� ������ �� �������� ����� �� � �� �������� � �� ��� 2������ ���� � ������������ �������� ������ ��������������3! ���� �� ����������� �� ���������� ����������

4.2 Basic Operations for Computing File Segmentsin Memory

0 )�� �� ���� ����������� � �� ���� �� ����� ���� ����������� � �� �� ��)��� �� �������A

������� � �� � �� ���� ��� �� � ���

����� � � ����� ��������� �� � ��������� ��

� � � ��������� �� � �� � ��������� ���� � ����� ��������� ���

�� ���������� �� � ������ ������ �����! �� ���� �� � ��� �������� ��� ���� )�� �� ����� �������� ������� �� ����������� ����� ���� �� ��� �� �������� �� ����� �� ��� ���� )��!�� ���� �� � ��� �� �������� ��� ������ ��� ��� ������������ )�� �� ����� ���� ��� ������ ���� ����! ��� ���� �������� ��������� ������ �� ��� ���� ���� ������ � ���������� ����� �� �������� ���� ��������� �4����� ���� ��������� �� ���� ������! ��� �� ������� ��� ����

����� �4�����! ��������� ������� �� .� ��� "� I�� ��� � ��� � �

��

� � �� ���� �� �� ����� ������ ��� ���� )�� � 2���� ��������� �� '(( ��3 �� ��� �������� ������� �����A ���������� � � ��

���������� � � �� ���� ��� ���������� � � �� ���

r

1r

3r

2

<40, 50>(40)

10 20

<0, 30>(20)

<0, 30>(10)

<0, 40>(0)

time (sec)

=50T /T=0

2

3

t

t

t

1

40

<30, 40>(40)

���� � ������� �� ����� �������� � �� ���� ����

/���� ��� )��� �� ���� ��� � ��� ���� � � � �� ��� ��� ������������ �� ���� � �� �� � ���� ��� ������� ���� �� ���� �� ������� ������ ��� � ��� ������ ��� ����������� �� � ����� ���� �

��� ����� �� ���� ��� � ���� �� ���� � ��� ��� ���� �� ��� ����

��� �� �� ���� �� )�� � ������ � ��� ���� �������� >��������!�� ���� ���� ������� ���������� ��� ���� ��� �� �� ���� �� )��

� ! ���� ��� ������ ���� ������� � ��� � .������! ��� ������

�� ���� ��� �� �������� ��� ��� ���� ����� ���� �� ��� ��������� ���� ��� ������� �� )�� � � ���� �������! ��� ��� �� �� ������� )�� � ���� ��� ���� ����� ���������� �� ��� ������ �������� ������ �������� A

������� �� ��� ����� �������� ���� �������� ���� ��������

�� ��������� ��� ��� ��! ���� ����� �� ����� �� )�� � ������� � ���� ���� �� ����� ���� ��� �

����� �� �� �� ���� ��������!

�� �������� � ��� ���������! ����� �� ��� ��������� ���

������� �� � � �� I�� ���� ��� ���� � ��� ���� ���� �� �����

������ ��� ���� )�� � ��� ���� ����������� �� ����������� �! ���� ������ � ���� ����� ���� ���� ���� I�� ������ � ��������� � �� �

�� �

���� � ��� � ���� � ��� ������ � ��������� � �� ��� ����� � ���� ���� ��

���������� � ������ �

����� � �������� � �! ��� � ������� � ��� ��� ��� � �"��#�� ���

����� � ��� � ��� � ���� � ����

�����������! ��� ��������� �������������� � ��)��� � ���� �� �������� �� ���� ������ ���� ���� ��� ������ ���� ��� ���� ������ ����� �� ���� ������ .�� ������������! ��� �� ������� ����4����� ������� �� .� ��� "� I�� �� )��� ������ ��� �� ������� )�� � ������ � ��� � �

�� � �

�� �� ��� ��� ��� ��������A

������ ���� ������

������ ���� �������

������ ���� ��������

����! ������ � ������ ����� �������

������ � ������ ����� �������

I�� ��� � ��� � ���� �

�� � � �� ���� �� �� ����� ������ ��� ����

)�� � ����� ��� � �� ��������! ����� ���������� � � ���������� � � ��� �

�����������! ���� ��� �� ��� ������ ���� ��� ��� �� ��� ���� ��������� �� )�� � �� ��� � �� ���������@�� ��� �� �� ������ ��� ��� �� �� ����� �� )�� � ���� ���

���� ����� ���������� ���� ��������� �� �� ����� ��� � ��� � ���� �

��

����� ���� �������� ���� ��� ��� ������ ������� �� ������ ���)�� �� ����� �� ��)��� �� ��� �������� ���A

������� �� � �� � ��������� �� ��� �

�������

��������� � �� ��� � ����������� �� �

��� ���

>��� ������� ������� �� � �� ���������� ��� ��� �� �� ����� ��)�� � ������ �� ��� � �� ��������! �� ���� �� ������ ��� ����������� �� ��� �� ���� �� )�� � ������ ��� ������ �� ������������ ��� � �� �������� ��� ������� �� � !���������� �� � ���I�� �� � ��� ������� ��� �4����� ������� �� .� ��� "� L��!

��� �� ���� �� ������ ��� ��� �� �� ����� �� )�� � �� ��� $�����

��������� ���� ��������� �� ����������� �� .� ��� ��

r

1r

3r

2

. . .10 20

<0, 50>(20)

<0, 50>(10)

<0, 60>(0)

time (sec)

=70T /T=0

2

3

t

t

t

1

60

<50, 60>(60)

<60, 70>(60)

���� � ������� �� ��� ���� ���� ������� �

/� �� ������ ��� �� ����� � ���� .������ 2"3! �� ��������! �� ��� �� ������*�� ���������! ����� �� ��� ������ %�� ���� ��������� �� � �������� ��)��� ���� .�������� 2#3 ��� 2"3� <���! �� ���� ��� �� ��������� ����� �������������� �� ����� ��� ������� ������� �� ����� �� )�� � ����� ������ �������� ���� �� �� ���� �� ������ ��� ������� �� ������ �� )�� � �� ��� $����� ��������A �� ���� �� ������ ���� �%� � �� ��� �� ���� �� %� � �� ��� ��� �4����� �� �����A

������� �� ��� ����� �������� ���� �������� ���� ��������

������� �� $�� ����� �������� ���� �������� ���� $�������

��� �������� ��������� �������� �� � ������� ������ ��� �� ������ ���� ��������� �� ��� ��� �� �����! �4��� ��� ������! ��������� ���! � %�A

��� ��� �� � ���&� ���%�� ��%��� ���%���

Page 8: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

I�� ��� � � � �� � � ��� ������ 2���� �����3 �� ����� ���� ������� �� %� ��������� ����� �� ��� �������� ������A

��� ��� �� � ���&� ��� ��%��� �� ��

.�� ��� ���� �� ��� �����! ���� �� ��� ������� �� � �� ������������ ���� ��� ��� �� �� ����� �� )�� � �� ���� �������� ��� � �� ������ � �� � ������� ������ ��� �� ������ ���� ���������������� � ���������� �� ��� �� �������� � �� ���� L���! �������� ��� ���� �� %� ��������� �� ������� �� ��� ������� ���������� �� �� �����! ���� ��� �� ���� ���� ���������� �� ��� ������� 2���� �����3 �� ���� ����� �� � 2�����������3 ������������� ������� ������ ��� ��� ����� �� ����� �� ��� ������� ���� ���� ���������! ��� ���� �� ��������� � ���� ��������������! ��� ���������� �� �� ����� ���������� ����� ��� ������������� �� ������ ���� ������ �� ��� ����� �� �� ����� �������������� )�� � �

5. MODEL-BASED ADMISSION CONTROL��� ���� ��� �� �� ��������� ������ �� �� ������� � �����

������ ���� ����� ����������� � ��� �������� ��� � ����������� �������� ������� �� ��� ��������� �� ��� ��������� ����������� �� ��� ����� ����������� ��� ���������� ����� �������������� �� ����� ��� ��� ������ ������� �� ��� ������ �������� �� �����A ��� ������ ��� ������ ������� ��� ���� ����� ��������� �� �������� ���������! ��� �� ��� � ��� ���� ��� ������ �� ��� ������ ������� � � ����� �� �����������@� � ���� ����! �� ������ ���� ��� ����� �� ������! ����� ���

������ �� �������� ������ �������� ����� �� � �����������A

� ���������� �� ��� �� �����K

� ��� ������ �� �������� ������ �� �����K

:������� ������ �� ������ �� ��� ���� ���� ������ /� ��)����� �������� ��������� ��������� ���� ��� ���� ������A

� �1�&�23A ��� ��� �� �� ����� ���� ��� �������� �� ��� ����!���� ������� �� ���� �K

� !���1�&�23A ��� ��� �� �� ����� ���� ��� �������� �� ���������� �� ����� ���� �K

� (��A ��� ������� ������ ������� 2/� ��� (�� 4 5 ������ �� ������� ��� �� ����� �� ������� ���� ���� ������ �� ��)��� �� >����� '�3

� �(��23A ��� �������� ������ ������ �� ���� �� �� ������� ������� � ����) ����� �� ������ ��������! ��� �(E!�� � ����� ������ �! ��� �������� ������ ������ �� ���������� ���� ����� �� ����������� �� � ���� ����� �����A ����"#$�������� � ���� #$�

I�� ��� ������ ����� ���� � ����� �� ����� ��� ������ �� ��������! ���� ��� ��� ������ �� ���� ������� ������ �� ����� ������ ���������� �� ��� �� �����! ���� ��� ����������� ������ ������������ )��� 2�� ����� �� ������� ��� ����������� ��������3!��� ��� ������� ������ ��� ��������� ����� �������� ���������� ��������� ��������� 2���� ������� �� ���

����������3 �������� ��� �������� ������ �������� �� �������� ����A

��� ����������� �� �������� �������� �������� �� ������� ������ ����������� �� ����������� ������! ��� �������� ������ ��� ���������A

� "����!������� � "����!������� � ������!��������

�! ����� ����� ���� �� �������� �� ������� �� �� ������ �� �������� �

�� ������ �� ���� �� ����� ������ �������� ������� � �� � ������� ������������ �����

� ��� ������ ������ �� �������� � ��� ��� �� ��� ����������� �� �����A

"#$������ � "#$������ ��

��������������

��������

��� ���������� �� ��� ������� �� �������� ������� ���� �� ���� ����� �� � ������ �� ���� ����! ��� ������������������� ��������� �������� ��� �������� ��� ���������A

� !����� "����������� #����A ����� ���� ��������! ������ �� � ��� �� ���� ����� �� ���������� �� ������ ���� ���! ��� ������ ����� �� � ����� ������ �� ���� ���� ��������� ���� ��� ��� �� ��������� ������ ������.��� ��� ������ �����! �� �� �������� ������� � ���)4�� �� ������ )�� � �� ������� �� ������! ��� ������� ��� ���� ����� ���� ���� � ��� �� ������ ������ �� ��������������� ��� ����! ������������� ���� ������� ����� ������ ����! ��� ����� ������ ��� ���� � ���������������� 2������3 �� ��������� ��� ������� �� ���������� �� ��� �� ���� ����� �� ��� �� ��� �������� ������!������������� ����� �� �� ��� =�> ���������� �����

� $� ��������� #����% ����� ���� ��������! ��� ���������� ��������� ����)�� ���� ��� ������� �� �� ���� ��������� ��� ������� ��� =�> ��������� �� ������� ������ ��� ����� �� ��� ����� �� ��� ������! ���� ��� ����� ������ ������� ����� �� ���������� ����� �� ��� ����� �� ��� ��������� ��� ������ �� =�> ���������� ������ �� �������� ������� �� ���� ����� �� �������� ��� ��� �������� ��������� ���������A

$3 ��� �������� ������ ������ �� �������� � ��� �����������A"#$������ � "#$������� ������������

#3 "����!������� � "����!������� � ������

'3 I�� � � � ���� � ���� ���������� ����������!��� �� � ������!��� �� � ������

@��������! �� ���� ����� �� �� ������

���� �������� ��� ������� D�� �� ������������� ����������

5.1 Computing Memory State and Estimating Costof Request

��� ��� ���� �� ������� ��� ������ ������ ����� �� ���������� I�� % &�� � ��� ��*� �� ������ � �� ����� I��������� ������� ���� ������ � � ������� �� ���� �� �� ����� �� ������ ������� ;���� ��� ������ ���� � ! �� ���� �� ���������� ���� ���� �� ��� ���� ��� ��� �� ��� ���� ������� �� ����� ��� ������ �� ������ ������ �� ��� � �� � ����� % &�� �� ����� �� .� ��� %� ���� ���! ��� )���? �� ������������� � ��� ����� ������ �� ���� � � ���� � �� �������

k-1t

kt

1

2t

33

2

1

4 4

time

5 5

? k

k-1

T T

t

t

rt

r

rr

r

r

r

mem

t

Sizemem

. . .

���� ! ����� ��� �������� ��������

�"��� � ������ ���� ��� � � �������� �� ��� �� ������ ��� ��� ���

� ��� ��#�� �����

Page 9: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

�� �����*� ���� ���� �� �� ����� ���! �� ���� � �� ������������� �� ������ ��� ������� ��� ������ ����� �� ��� ��������� I�� ���� � ��� ������ ���� ����������� �� � ��� ��� ���� ����� �������! ��� ��� ��������� ��������� ����� �� ������������ �� ���� �� ��9�� �� ���� ����� ��� �������� � I�� ����������� ��� ���� �� ��� �������� ������� �����! ��� ��� ��

���� �� ���������� ������� ���� ��� ���� ��� ��� �� ���� ������� �� ����� ��� ������ �� ������ ������ ��

���� ��� ����� ��� ��� �� % &�� �� ����� �� .� ��� F�

Size

TmemcurTmem

prev prevT T

mem

cur

time

memSize

?

���� " ! ����� "����� ����� ��� �������� �

0� ���� ����� ����! �� ���� �� ������� �� ������� ���� ��

��� ��� ���� ��� ��� �� ���� �������� ������ ������ ��

��� ��� ���� �� � ��� �� % &��K� �� ������� ����������� ���� ��� ������ ����� 2���� )���� ����� ������ �� ������3 �� ����� �� ��������� ��� ����� ��� �� ���� ������

I�� ' ���������� � ���� � ���� ��� � � � ��� �� )��� ������ ����� ������� � ����� � ��������� ��� ���� ���� �������� ���� �� ��� ��

��������� ��� ��� �� )�� �� ����� ������ ����� � ���� ������������ ���

���� � ������ �� � ���� ����! ����� ' ������������� � ������

��� ��)��� �� �������A��� � �������� � �

����� � ������

��� � �������� � ������ � ������

7� ����������! ��� ��� �� ��� �� ���� ������ � ������� ����� ������ ��� ���� ������ ��

���� ��� ����� �� � ��� ��% &��� <��� ��� �� ����� ����������� ���� ��� ��� �������� ������ �� ���� ��������� )�� ��� ' ���������� ������� �� ��� )��� ���� ����� ���

����� ���� ����� "����!�������� 2��� �� � ��� ����� �� �����)��� ��� � � ��� ����� �� ����� �� �����3 ��� ��� )��� �������������� �� ����� 2��� �� � ��� ����� �� ��� ����������� )���3� ��� )��� �� ��� ������ ����� ��� ����������� � � ��� ����������� �� ���� �� ��� ������ ���������� �� �����I�� %� � ���� � ������.�� ��� )�� � � ' ���������� ���� ����� �� �����! �� �������

��� ���� �� %� ��������� �� ����� �� ������ ���� ��� ����� ��� ����� ��� �� ������ ��� ��� �� )�� �� ����� ������ ����� ������� � ����� ��������� ��� ���������� �� ���� ��������� �� ���#

��� ���� ������ �� ��� ����� �� ������ �� ����� �� ��� �������� �� ��� �������� �� >����� "�#�-��� ' ���������

���� � �����! �� ������ ��� ����� ������ ����� �� ���� ������ ����� ���� ���� ��������� ��� ��������%� � � !����������

���� � ������ % &�� ��)��� � ���� �������� ��

���� ������ � ������� �� � ��� ���� ����� �����

>��� ��� �� ����� �� ' ������������� � ����� ��� ������� ���

��� )�� �����! �� �� ��������� ����� ��� ��� �� ����� �� ���' ���������

���� � ����� �� #�$� '($�� �#� '($�� �����-��� ��� ��������� ������� ���� �� �� ����� ��� ��� ������

������ ���� ����� )�� ������ �� �����! �� ������ ���� ��������� %� ����� ���� ��� �������� �� ����� ���� �������� ��������� �� ���� � ��� �� %�� ���� ��

��� � ������ � %�� 0� ���

���� ����! ��� ����������� ���� ��������� ��� �������A� ' ���������

��� � ����� ������� ���� )�� �� ����� ������� �� ���� ��

��� ��� ����� ��K� ' ��������� ������� �� ���� )��� ���� �� ����� ���� ���������� �� ���� ��

��� ��� ������

.��� ' ������������ � ����� ���� ���������� ��� ������ ����

��� �����! �� �� �������� ������� � ���)4 �� ��� �� ������ )��� �� ������� �� ������ �� ���! ��� ������� ��� �� ���� ��������� ���� � ��� �� ���� �� ������ �� ���� ����������� ��� ����� ����� ������ ��� ���� � �������� �������� ������ �� ���������� ��� ������� �� ��������� �� ��� �� ���� ����� ������ ���� ����� �� ������������� ��������� @��������! �� ��������� �� �� �������� �������! ��� ���������� �� ������� ��� ��� �� � ���

�� ���� �� ������ ���� ������ �� ��� ����� �� ����� �� ������� ��� ������� �� >����� %! �� ���� ������� �� ���������� ��������� �� ��� ����� �� )��� �� ������ 2���� �� ��� ��3 ������������ � ������ ���������� ����� ���������

5.2 QoS Validation Process.�� ��� ������� �������� ����� �� �����! �� ���������� ���

���4��� ������� �� ���������� ��� ����� �� �������� ������ ��������� �� � ������� �� ����� /��� ����� �� ���� � ���������������� ������ ������ �� ����� � ��� �� ���� ����� ! ��� ����������� ��������� ��������� ����� ����� �� ������ ���� ��� �������� �� �� ���� ����� ���� ��� ������� ��� =�> ��������� ��������� ������ �� ����� ���� ����� �������� ��� ���� ��� ������ ������ ���� ��� ����� �� ���������� ����� �� ��� ����� �� ���������� �

� I�� � ��� �� ���� ����� � � ���� ����� �� ���� ���! ������� � ��������� ������ �� ���! ���������� ���� ��������������� ���� �� ������ 2��� ������ �� ��� ���� �� ��)���� ��� )�� � ������ �� ����3� �� ��� ������ �� ����������� 2�������3 �� ���� ����� )�� �� ����� �� ������� .���4�����! ��� ���� �� ����� �� )�� �� � ������� �� ������� �� ����� �� ���� � � ���� ����� ��� ����������� )���� ����� ���� ������ 2��� ��� � ��� �� ������ ����3���� ��� ��� ����������� �� ����� �� )�� �� ��� ������2�������3 ���� ������! ��� �� ���� � � ���� ���� ��� ������������ �� ����� �� )�� �� ���� ���� ���� �� ����������� �� ���� ����� /� ���� ��� ���� �� ���� � � �� ����������! ���� ��� ������� �� ��� �� ���� ����� ���� ���� ���� �������� ��� �� �� ���� � � �� ��� �������

� I�� � ��� �� ���� ����� � � ������ ����� ���� ������ �� ������ ������� �� ���� ����� ��� ��� ����������� ����� ��� ���� �� ��� ����������� �� ����� �� )��� ��� � ������ �� ���� ������ ���� ������ � ������������� ����� ���� �� �����! ��� �� ���� � ����� ���� ������� ����������� �� ����� �� )�� � ���� ���� ���� ����������� ��� �� ���� �����

/� ���� �� ������ ��� ���������� �������� ���� ��� ��� ����� ������ ��� ������ �������� �� ����� ��� �������� ���������� �������� ��� �� ���� ����� �� ����� �� � ����� � ��������� ��������� �������� �� ��� ������ �� ��� ����������� �������������� ���� ���� �� ��� �� ������ �� =�> ���������� �� �� ��������

/� ��������� ��� ��� ����� �� ����� �� ��� �����A

� ������ � �� �� ���! ���� ��� �� ����� ���� ���� � ����� ������ ����! ���

� ������ ��� �� ���! ���� ��� �� ����� ���� ���� � ��� ������ �����

0���� ������ �� ����� ���� ����� )�� �� ����� �� �����������! ���� �� ��� ��� ��� ���� �� ������! ���� ���� �������� ��� ������ )�� �� �����? ���� ������ ���� ��� �������$� ������������� �� ���� ��� �������� ��������� �� %�& �������

��� ����� � ����� ��� �� ��������� ���� �� ������ ��������� ���� �� ���������� ���� ������ �����

Page 10: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

����� @��� ����� ���� �� ����� ��� ����� ���� ���� ���� �������� ��� ���� ��� ����������� ������ �� �������� �������� ������� ��� ���������� ��������� ��������� ������)����� ���� �� ������ ���� ��� ������ ��������� 2��� �� � ���� ��� 3���� ��� ���� � ���� �� ��� ����� ������ �� ������ ����!��� ��� ���� ������ �� ������ ����� �� ���� ��� �� � ������ �������� �� ������ 2�� ������� �� .� ��� G3 ������� ������� ��� ����� ������ �� ������

Tmemcur Tcur

mem

act_m

Size

Tcur

time

Replaceable Safely

Bytes

���� $ ����� %���������� &�� � ������

-��� ��� ����������� ���� )�� ������ �� ����� �� ���� ����� ������ ����������� ����� ��� ����� ���� �� ����� �� ������� � ���� �������� ����� ���� ��� ����� ���� �� ����� ���������� �������� ���� ���� �� ������ ��� ������ �� ���� � ����� ������1���0��������� �� ��� �� ���� ���� ���������� �� ������ �� ���� ��� =�> ���������� ������ ��������� ������ � �������� ����� �� �����! �� ������� �� ������ ��� ��� �� ������� ����� ��� ���� ����� (���������!���� �� ��� ����������� ����� ���� �� ���� ��� ���������� ���������� �� ������������� ��� �� ��� ������� �������� �� >����� %! �� ���(���������!��� 4 5 ���7� �������� ���� ������ �� ��� ����������� ������ ������!

�� �������� ������� ����� ���� �� ����� ��� ������ ������ ���� ������� ��������� ����� �� ������ �� ���� �� ��� ������ ������ �� ����� ���� �� � ���� ������ �� ������ ���!������������� ��������� ������� ��� �������� ��� �� ����� ����� �� ����� �� � ����� � ��� �������� ������ ������ ������� ���� ��������� �������! ��� ���������� �� =�> ���������� ��������

�� ������ ���� ������ �� ��� ����� �� ����� �� ����� �� ���������A ��� =�> ���������� �������� �� ��������� �� ����������� � )4�� ����� �� �����! ����� �� ��� ����! ��� ������������ �� ������� ������ ����� �� ��������� �� � ������ ����� ��>����� %! �� ���� ������� �� ���������� �������� �� ��� ������� ����� 2���������� ���� ������ ���� ������3 �� =�> ������������������ ���� �������� � ������ ���������� ����� ���������

6. PERFORMANCE EVALUATION�� ����� �� �������� ��� ���������� ���)�� �� � ��� ������

���� ��� ������������ ������ � �������������! �� ���� ����������� ������ /� ������ ������������� ����������� ����� ��� �������� ��������� ������ ����� ���� ��������������� ������� ���� ��� ������ ���� � �� �����.�� �������� ���������! �� ��� ��� ������ ��������! ����

����� ����� �������� �������� ������� �#"�� /� ��������� ������������ ����� ���� ��� ��������� $ ��� # ������ ��������� ���������� �� ���� ���������� ����� ������ ��������� ������� ������� ��������� ��� ��������� ���� �� ��� �����! ��� ��������*�� �� ���� $A

�' �(������ �� ��� )** )**� � � '�+, '�((������� ���������� ,' -. ,' -.������ �� �������� ,'/*+ (,'01

����� � '��(���� ��������� ���� � �������� ����

7��� �������� ��������� ���� ��� ���� ����� )�� �������������������! ���� �� � ���D� �������*�� ��� �������� ��4

������A #(E �� ��� )��� ��������� ����� ������ (�#���! $(E ����� ������ ��� #�����! $'E �� ��� ������ ��� ��$(���! #'E ���$(�'(���! #$E ��� '(�%(���! ��� $'E �� ��� ������ ��� ��� ������ %( ���� ���� ����������� ��������� � ����� )�� ����������4 ���� �� ������ ��� ���������� ����� ��������� ���! ��������� ���� ��� ����� ��� ������ ������ 2�����! ����! ��� ������������ ���������3 ����� �� � �������������� ��� �� ��� ������2������� ���������! �������! ��� ������� ������3���� )�� �� ����� ��� ��)��� � ��� �������� ������� ��������

����A �E �� ��� )��� ��� ������ �� �%56�! #(E � �� $$#56�!�(E � �� #�%56�! #(E � �� '�(56�! ��� �E � �� �((56��8� ���� �������� ��� ������� � � ,������ ������ ���� ���

����� ���� �� $ �� 6��� ���� ���� ���� ��� ����� ������ ����� ���������� ������������ )�� ���������� �� ��)��� � � M�������� ����������� ����

����� �� ���� $A N $�'" ��� �������� $! ��� N $�##��� �������� #� �� �������! $ ��� � �� ��� ������� ����������� ���� #A &(E �� ��� �� ����� ��� �� $(E �� ��� )����� $ ������� �� &(E �� ��� �� ����� ��� ���� #(E �� ���)��� �� #� +����������� ��! $(E �� ��� ���� ������� )��� ��$ ���� �� ������� ������ ��*� �� '�G ;7! ����� #(E �� ������� ������� )��� �� # ��� F�� ;7 �� ��� ����� � �����/� ��������� � ��� �� ����������� ��� � ����� ������ ����

�������� ������ ��*�� �� (�� ;7! $ ;7! # ;7! ��� " ;7�/���� " ;7 �� �� � �� ���������� ��������� ��� )�� ������� ��*�! �� ��� ���������� �� ��� ��� ��������� �� � ����������� ��� ��� �� �������� ������ ��*�� /� ��)�� ��� ������������ ��� ��� ��� �������� ������� �� ����� �������� ����� ��� �4���������� ������ ������� �� >����� '� /� ���� ��������

�� ����� ��

N '! ���� ��� ��� �� ���� ���� �� ' ������� ��� ���� ��� ��� �� ��� ����������� ������ �������� )��� ��� �� ���������� ������� ��� ��� ��������� ��

����� �� .� ���� & �3! 3� ���� ��������� ��� �������*�� ����� ����� ������������ ����� ������������� ������� �� ��� �������� ��������� ������ ������ � ���� ��� ������A ��� ������� ������ �� ����� ��� ��� ����� ����� �� ����������� �������� ������������� ����� �� ��)����� ����������� ��� �������� ������ � ��� ��� ���������� .�� �������! ��� ��������$ ��� )�� ���� ��� �� # ;7! ������������� ����� � ������� ��� ����������� �� ����� ���� ��� ��� ������� �� ����������� ��� ����� ������ ���������� �� � �� ��)����� ����������� ���� ������ ������� ���� ��� ����� ������ ���� ��������������� ��*� �� )�� ���� ���� ��� ������ ������� ���� ��������� �� � �������� ���������� ��� �� ����� �� .� ���� & �3! 3���� ������ ������� ���� # ;7 �� " ;7 ������� �� ���� ����$(E �� ���������� ���������� ��� ��� ��� ����������C������ ��� ��� ���� # ��� ��� ���� �������� ������� ���

��� ������� )��� ���� ���� �� ��� ���� ������� �� $!��� ���������� ������������ ����� ������������� ���# ������� ��� ���� ����� ���� ��� $�.� ���� $( �3! 3 ���� ��� ������� ��� ��� ��� ��� ����� ��� ���

�� ����� ������ � ��� ����� ������ ��� ������ ���� ��������� ���������$ ���# ����������� ��� 1��� ��� � ��������������� )�� ���� ��� 2��� �� (�� ;73! F&E �� ��� ����������� $ �������� ��� F'E �� ��� �������� ��� # �������� ��������� ���� ������� ����� �������� ��� ���������� ��� ��E�� ���� ��� $ �������� ��� �(E �� ���� ��� # ������������������� � ��� ����� ������� .�� � )�� ���� ��� �� # ;7!��� )�� ��� ����� �������� �� �� &(E ��� $ �������� ��� G�E��� # ��������! ���� ������ �� F&E �� ���� ��� $ ����������� F"E �� ���� ��� # �������� ����������� � ��� �����

� �������� � ������� �������� ��� ��� � �� ��������� �������� ��� � ���

��#�� ���� ���� ���� ����� ����� � � � ��� ���� � �������� �� ��� �

Page 11: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

�3

1.4

1.6

1.8

2

2.2

2.4

0.5 1 1.5 2 2.5 3 3.5 4

Thr

ough

put I

mpr

ovem

ent (

times

)Memory Size (GBytes)

W1

Accepted RequestsTransferred GBytes

3

1.4

1.6

1.8

2

2.2

2.4

0.5 1 1.5 2 2.5 3 3.5 4

Thr

ough

put I

mpr

ovem

ent (

times

)

Memory Size (GBytes)

W2

Accepted RequestsTransferred GBytes

���� % $������)�� �������� ��������� � � ��� ��-����.���� �������� � �� ���������� �������� �� ��� ������

�� �� � � �� ���

�3

0.4

0.5

0.6

0.7

0.8

0.9

1

0.5 1 1.5 2 2.5 3 3.5 4

Hit

Rat

io

Memory Size (GBytes)

W1

Hit RatioByte Hit Ratio

3

0.4

0.5

0.6

0.7

0.8

0.9

1

0.5 1 1.5 2 2.5 3 3.5 4

Hit

Rat

io

Memory Size (GBytes)

W2

Hit RatioByte Hit Ratio

���� �& *� � � �� �� ����� � ��� ��-����.����� �� �� � � �� ���

�3

360

380

400

420

440

460

480

500

0 50 100 150 200 250 300 350

Acc

epte

d R

eque

sts

Time (min)

Memory = 1 GB

W1: Accepted RequestsW2: Accepted Requests

3

80

85

90

95

100

105

110

0 50 100 150 200 250 300 350

Ser

ved

Mbi

ts/s

Time (min)

Memory = 1 GB

W1: Served Mb/sW2: Served Mb/s

���� �� ����� ������ �������� ��� �� � � �� � ��� ��-����.���� ����� ���� ���� �� �� ����� �� �������

������ � ���� ���� �� �� ����� �� ����+� �� ������� ���� ����

�������.� ��� $$ �3 ������������ ��� ����� �� �������� ������

�������� ��� ��� ��������� $ ��� # ���� ����� /���� ������������ ��� �����*�� ��� ���� ������ ������! �� �� ��� ������� ����� �� ������ ��� �������� �������� ���� ���� �� ������� ��� )4��A �� ������ ������ #�E ��� ��� �� ��� ������������������ �� �� � �4������� � ��� �������A �& )���! ��� ��������� �� ����� ��� ���� � �������� �� �� ����� �� �� ����� ����������� �������� 29��� ������ ��� �������� �� ��������� ���% 56� ������ ��� #�% 56� ������3K ��& �����! ���� �� ��������� �� ������� ����� )��� �� � ������ ���� ������! �������� � ����� ������ ������ �� ����������� )�� ������ ��� ������������� ��� ���� ��� ���� ���������� ���������� ����� ���� �����! ��� ������� �������� �� ������ ����� �������� ��� � �� ���)��� ����� �� ��� ������� �� ��� ������ ����� ������ ������ ���� ������ ����� ��� ����� �������� ���� ������ ��� ���� ������ ���� ����� .� ��� $$ 3 ������������ ��� ��4����� �������� ��������� � ��� ����� ������ 2�� :���6�3 �������� ��� ��� ���������$ ���# ����������� ��� >��������!�� �� ������� ��� ��� ��������! ����� �� ��� ������ ������� ������ ������ �� ����� �� ���� �� � ���� ������� �� ������ �� ����� ��� ����������� ����� �������L��! �� ������� ���� ��������� ������� �� ��� �������������

�� ������ ����������� ��� ���� ��� ������������� �� �������������� ��� ���� ��������� ���� ��������� ������� � ����� ���� �� � ������� 0� � )��� ��� �! �� ��������� ��� ����� � ��� �� ���� ��� ������� �� ������� ������ ����� �������������� �� � ������ ����� ��� ���������� �� �� �������

������ ����� �������� ���������� ��� )�� �� ����� �� ��������� ��� ��� �������� ����� �� ������ /� ������ ���� ��� ������4��� �� ��� �� ������ �� ������ ���� ������ �� ��� ����� ������� �� ������ ��� ������� �� ��� �� ������ ������� �� �������� �� )��� ���� ���� ����� �� ����� ������ �� ������A ����� ��� ����� )��� �� � � �� ��� ��� ����� # ��� ' ���� ��������� )�� ��� ���)�� 2����� �� ���� ����3 ��� ��� ���������$ ��� # ����������� ���

����� �� ���� �� ����2�����&���

3������ ������ ����

&� ���������

(�0 ���������

4�'* ���������

� '* ���������

*�0 -. 1+ , 0* (' 4 '*' -. '*' ) 0* (+ 4 '+( -. ''/ ') 0* (/ 4 '4, -. '0+ +) ,0 ,' 1 ('

����� � '��(���� ��� � ������ �� � ����� ��� ���

����� �� ���� �� ����2�����&���

3������ ������ ����

&� ���������

(�0 ���������

4�'* ���������

� '* ���������

*�0 -. '*0 0 4* (, 4 '*' -. ''( 1 4* (0 / '(( -. '+* '1 0) +* / '4, -. '40 +) 0, ,, 1 (*

����� � '��(���� ��� � ������ �� � ����� ��� ���

��� �������� ����� ���� ����� ��� �������� ��� ������� G(()���! ���� $#E�#(E �� ���� 2&' �� $%� )���3 ��� �� ������ ����� ���� ����� +������! � ��� �� ��*� ������ ����� � �� �������� �� )���� ��� ������� ���)�� �� ����� )��� �� ���������� ���������! � ����� ��*� ������ ��� � ���� ��� )��� ���� �� �

Page 12: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

�3

100

101

102

103

104

105

106

107

0 50 100 150 200 250 300 350

Load

(%

)

Time (min)

W1 (Memory = 1 GB)

Server Load

3

100

100.5

101

101.5

102

102.5

103

103.5

104

104.5

0 50 100 150 200 250 300 350

Load

(%

)

Time (min)

W2 (Memory = 1 GB)

Server Load

���� �� , ������� ��-����.���� ����� �� -�� �������� ���������� � ������ ���� ���� ��� ��� �� �� ���(�����

���% &� � � (�� �� �� ���(����� ���% &� � � (��

����� ���� ��������� �� ��� ���������� �� �����A ����� )������ ������ ���� ������ ���� ����� <������! ��� �� ��*� ������� ��� � �� ��� ����� �� )��� ����������� �� ������������ �����A ����� �� ����� )��� ������ ���� ��� ����������� ������ ��*� �������� 0�����������! ����� �� � ������ �������� � �� )��� ���� � ��� �� ����A ����� )��� ��� ����������� �������� � � ��� �� ��������� �� ����� .������! ���� � ���������� �� )��� 2"E �� &E3 ��� �������� ���������� �� ��������� ���������� �� ��� ������ ������ ����� �������� ����������� ��� )�� �� ����� �� �4���� ����� )���A ���� ����� ������� 'F �� F$ )��� 2�� ����� �3 �� ��� ���������� /���� ������������� �� ��� ������ ������ ����� �� ������ ���� �������� ��� ����� �� ����� �� ����� �� ��� ������! ��� ����� ��)��� �� ��� ������ )�� ��� ���������� ��� ������� �� ���������������� �� ��� ���������� ����� .�� ������ ����� ������������ ������ ����� �������! ���� ������� �� �����! ��� ���� ���������������� �������������� �� � ���� ��������� ����� ��������! ��������� � ������������� �� ��

�����! ������� ��� ����� �� �������� ������ �������� �� �������� �� ���� �� ������� =�> ��������� ��� ������ ������� ������ .���� �� ���! ��� ��������� �� ���� ����J �� ���������� �������! �� ���� ��������� ��� ����������� ���� � �����)�� ������� �� ������������� ���� ������ ����� �� ����� ������ ��� ������� ����������� �� ��� ���� �� �� ���� ������� 2������ ���� ��� ������� ��� =�> ���������� �������� ���� ����������3� .� ��� $# �3! 3 ����� ��� ������ ���� ���� ���� ���� �������� ������ �� ������ � ����)�� ��������� ��������� ���������� =�> ���������� ������������ ���������� ������� ��)�� ���� ���� ��� ��������� ���

����� �� ���� ���� �� ��� ������� ����������� �� ��� ���� ���� ���� �������! �� ��� ���� �� � ������ �������� �� ��� ������� ����� �����������! �� �� ������ � ������ �������� �� "E�%E ���������� ��� ���� ���� ������� ��� �4��������� �� ��� ��� �������������� �� ���� ��������� �� ��� � ����� �� ��� ������������� ��� �� ��� ��� ���� �� ��� � ����� ! ������ ��� ��� ��������� � �������� ����� ��� � ��� �� � �� ���� ���� �� ����������� �� � ���� �� ������ ������� ����������� ��� ���� ����� ���� �� � �� ��)��� ����� �� ������� ������ �������� ������ ����! ��� =�> ���������� �������� ��� � ������������������ ��� ������ ����� ������ ���� �! ����� �������� ������ ������� �� �� ���� �������� �������� ������������! ������ �� ������ ��������� ���� ��� ����� 2��������� ���� ����3 ��������� ����������� �� � ������ )�� ���� ��� ��� �����������.������! .� ��� $' ����� ��� #�� �� ��� ����� �� ����� 2���

����� �� ���������� ���� ��� ������ ���� ������3 �� ��� =�>���������� �������� ��� $ �������� 2������� ��� # ����������� ���� �������3� .�� &(E �� ��� ��� �� ����� 2��� ��������� ��9����3! ��� =�> ���������� �������� ���� ��������� �������� # �����! ������� � ���� ����� ���������� ����� >���

0.65

0.7

0.75

0.8

0.85

0.9

0.95

1

0 2 4 6 8 10 12 14 16 18

CD

F

Number of Steps

W1: Number of Steps in QoS Procedure

Memory = 0.5 GBMemory = 1 GBMemory = 2 GBMemory = 4 GB

���� �� ��� �./ �� ����� �� ���� � -�� ����������

��� ��� ������� ����� �� �����! �� �� ��������� �� �������� ������������ �� ������ ������ �������� ���� ����! �� ���� ���=�> ���������� �������� �� �� ��������� ���� ��� ���������� ���������� ����������

7. CONCLUSIONS AND FUTURE WORK�� ���� �����! �� ������� ���������� B � ���������� ���

����������� ��� ������ =�>������ �������� ����� ��������-��� ��� �������� ����� ���! ������������ ������� ���������� ��� ������� �� ������ �������� �� ����� �� ������� ���������� ����� �� ���� ���� ��� �4����� ��������A

� 0 ���)�� ������� ��� �������� ����� ������ ��������� � ��� �� ��� �������� �� �������� ���������������� ������ ������ ��� �������� �������� ����������-��� � ��� �� ��� ������� ������������! �� ��������� �� ������� ���� ���� � ��� �� ����� �� ��D�� ��������� ������� �� ��������� 2�� �! +,-! ����! ������!��� ��������3 �������� �� ������� � ��������� ������������

� 0 �����! �� ��������� ������ ����� �� ��� ����� ���������� �������� � ���� �����4������� �� ��� �������� �������?� ������ ������ �� ��� ����� �� ���� ���� ������������ ��� �� �������� ������������ ��� �� ������������� �� ��� �������� ������?� I8-����� �� � ����������� ������ /� ���� ���� ���� �� � ���� ������ ����������� ���� ��� �������� ������?� �������� ������

-��� ��� ���������� ���������! �� ���� ��� �� ��������������� ������������� ��� � �������� ����� ������ ���� ������� ��� ��� ����� �� ��� ������?� ���� ������ )�� �������! ��� �� � �������� �� ���� �� � ������ �������� �� ����� ����� ���� 0 ���������� ��������� �� ��� ����������� ������ � �������� �� � ��������� ����� ������� � ����� ����� ����������� �� ����� �����/���� ��� ���� � ��� ���������� �� ������� �� � ��������� ��� ��

��������� ��� � �������� ����� ������! �� ������ ���� ��� ���

Page 13: MediaGuard: a Model-Based Framework for Building QoS-aware ... · A number of technology and workload trends motivate us to consider the appropriate resource allocation mechanisms

����� �� ������ �� � ������� �� ��������������! ������� ������������ ������������� �� ������! �� �� ����� �� ��������� �������� �� �������� ������ �������� �� � ������� �� ����� .����� ������� ��������� �� �����! �� �� �������� �� ������ �������� ��� ������ ����� ��! ��� �������! �������� ������ �� ����+,-� 8�����! �����4 ����������� ���� ������ ���� ������� ��� ������� �� ��������� �� ��� �� ����� ���� ��� ���������������� � � ������ ���� � ��������� �� ��������� �������� ��������� �� ���� �� � �����)�� ���� ��������� =�> ������������� ��� ��� �� ���� ��������� 7����� ��������� �������!������� � �� ���� �� � �����4 ��������� � �������� ������ �������� ������ � �� ���������� ������! � ������� ������! ����������� ����� � ����� �� ������� ��� ������� �� ��� ��� �����@�� � ���! ��� ������ ����� �� ���� ������ ����! ���� ����� �������������! �� ������ ����� ��� ���������� �� ����� �����C�������� ���������� ��������� �� ������� ����� �������

����� �� ��� ���� ���� ������ �� �������� ��������4�� ��� ������� ������ ������ �� �� ���������� ������ ���� �� ���������� � ��� ���� �� ������ ��� ����� ������ ������ ������ ���� ��������� �� ���� �����

���������� �� � ���� �� ������� ������� ������� ��� ����������� ��� �� ���������� ��������� �� ��� -������ C���+����� �#&� ������������ .�� �4�����! � ������ �������� ������ ��� ���������� ��� ������ ������A ��� � F(E ��� �� � � &�E����������� �� ���� ������� ��� ����� ���� ��A �& �������� ��� �� ����� ���� ���� ��� ������ ������ �� ���� &�E! �����& ������� � ��� �� ������ ���� ��� ������ ������ ������ ���F(E ���������� ����� ������ ��� � ���� � � ������ �������������� �� ��������� ���� �� ������ ���������� ������ ���������� ��������� ����� ���� ������ �� ��� �� ���� ��������������0������ ���������� �������� ��� ������ ���� �� ��� ���� � ��

���������� ������ �� ����� ������ ������ ����� �������� ����������� ��� �� )�� ��� ����! ������ ��������! ���������! ���!�� � ������� ��� ��������� ���� ��� ������ ��� � ��� � ���� ��������� ������������� ����� �� � ���� �� ���� � ����� ����� �������������� ���� ������ ��� �� ���� ������ ������� �� � ����� ������ �������

8. REFERENCES��� � ��)(�� * +���"�'� , �(�' -����� �)���)��� . )�#

!���'��/ !� ������ &�)�(�&�)� �) ��0�� /��& 1) �"�*������)( ! �"� 2"��� 3/&4��& ) 54�����)( 3/��&+��() �)� 1&4'�&�)����) �53+1�� 6������/ �777

��� 8 ������9� 6 2"��� 3��������' .�&��) :)��' �) ;���3��0�� #��" :)��)� +��� <�)(�" -�����0�' ! ;�- 3����& *�� ! �"� �� 1)�' :)!���)�� ) ��'��&���� ���'�)(�6��)��� �77�

��� 8 :"�)(� . =�9"� :� .)�'/� !� ;�- ;��� 3��0�� *�� ! 132�3*18 ��'��&���� :&4���)( �)� >��#�9�)(�3�) ,�� �77�

��� , :"��� + .)���)� * 2"�9��� . ;�"���� �)� - +/'� ��)�(�)( 8)��(/ �)� 3��0�� -����� �) ?��)( :�)��� *�� ! �"� �@A�" .:� 3/&4��& ) 54�����)( 3/��&*��)��4'� �353*�� 5������ ����

��� < :"��9�0�� � ��4�� :"��������B�)( <��'��/� 80'���)��)� <�!� 34�) ! .���� �) 8)���4��� ����� 3��0��C�9'�� *�� ! .:� >533+.;� ����

��� , +�)('��� : ���)"����� 8 ������9 +����&�)���� .�&��):)��' 3�����(�� �) ;��� 3��0�� #��" ;�����'� ��� -��� *�� ! 8��4��) C�9"4 ) 1)�������0� +�����������'��&���� 3/��& �)� 3��0��� �1+�3�� ���&�)/� �77�

�$� . +�)� + +�� - ��9"��D��� + 3�����&� - 2�#��� ��E���)( �)� :��"�)( �) <��(�A3��'� ;��� 3��0�� *�� !:5�*:5>� �77�

�@� . +�)� + 3�����& . ��)���'�B�� 1)���0�' :��"�)( *'��/ !���F�� 1)�������0� �)� <)( ;��� C�9'�� *�� !

132�3*18 ��'��&���� :&4���)( �)� >��#�9�)(� �77� �7� - +/'�� , :"��� 5 .��� C ,�)� . ;�"��� ���'A����

-����� *�0��)�)( �) � C�� 3��0��� G��'��/ *�� ! �"�G38>1H 3/&4��& ) 1)���)�� 2��")'(�� �)� 3/��&�G3123�� ����

���� I 6�� . ;�"��� 3<.A���� +��������� -����� .''����)!� 3����&�)( ?��)( 3/��& *�� ! �"� $�" 1)�' C�9"4) C�� :)��)� :��"�)( �)� +��������) �C:CA$�� ����

���� , ��&&�''� 3 :"�����'�9� *��)��4'� ! +�'�/ 3�)���0���'��&���� +��� 3���(� �)� -�����0�' .:� 2��)����) )1)!�&���) 3/��&� ������ �77�

���� H ,��)(� * �"�4���� 8���)� ��&��) �)��' �'(���"&!� &�'��&���� ��0�� , .:� ��'��&���� 3/��&� 0' $����,�'/� �777

���� � �&��"� -�&�&���"�&� + 2#'�/ :)��)�� �����3"���)( �) ��'��&���� +������ 3/��& *�� ! �"� ��" 1)�' :)!���)�� ) +������ 3/��& !� .�0�)��� .44'�����)��77�

���� 8 )�("�'/� ? ="�)( 2��� :"��������B���) �)� 3#���"G��'�B���) G�)( +����&�)���� ��)��)( 1)���0�' +�4�)��)�2��� ���' *�� ! 1888 1>65:5�J7�� ��) �77�

���� 8 )�("�'/� + C��(�� , <�����"���� ? ="�)( 6�)��&�)��'<�&�� �)� 2����E ! *�0���)( +����&�)���� �����)��� �;�- ;��� 2��� *�� ! .:� 31��82-1:3J7�

���� + ��9��E� - >( 3�"�&� 6� 1&4'�&�)��)( ��E�� 3"���)(�) :)��)��A����� 3/��& 1)!�&���) 3/��&� ;' ���> � �77�

��$� + ��9��E� � >��!�'�� > ?���"�)) .) 80�'����) ! ;�-+�9 .�&��) .'(���"& !� :)��)�� ����� 6�'� 3��0�� *�� ! .:� ��'��&����J7$� 3����'�� �77$

��@� + ��9��E� � >��!�'�� > ?���"�)) >��#�9 ��)�#���".''����) �)� .�&��) :)��' !� � :)��)�� ����� 6�'�3��0�� *�� ! �"� ��" 1)�' C�9"4 ) 1)�������0�+��������� ��'��&���� 3/��& �)� 2�'��&&�)�����)3��0���� 2�'��� 6��)��� �777

��7� � >��!�'�� + ��9��E� > ?���"�)) +��() ! � ;�����'���� -��� :)��)�� ����� 6�'� 3��0�� !� �) .2� >��#�9 *�� ! 132�3*18 ��'��&���� :&4���)( �)� >��#�9�)(��77�

���� � 5B��)� - -��(�� . 3�'����"��B ��E�� -�4'���&�)�.'(���"& !� ��'��&���� +������ 1) 3 � :"�)(� ��������'��&���� 1)!�&���) 3���(� �)� ��)�(�&�)�� �"�4��� $ '�#�� .����&�� *��'�"��� �77�

���� 3 -�)D�)� , -'��� ? 6�� 8 )�("�'/ K3A+��0�) 3��0����(����) !� 1)���)�� +��� :�)��� *�� ! .:��1888 1)�J'C�9"4 ) K��'��/ ! 3��0��� �1CK3�� ����

���� > -���/� , C�''�� +�9 3�"���'�)( �) ��'��&���� 1�53/��& *�� ! .:� ��'��&����� .)�"��&� �77�

���� + -��&� , ="� ��E�� &�)�(�&�)� !� ;��� +������3/��& *�� ! 1)�' :)! ) +������ 8)(�)����)(� �77�

���� C 2�)(� I 6�� < :"��9�0�� . ;�"��� ����3/)� .3/)�"���� 3����&�)( ����� 3��0��� C�9'�� ��)����� *�� ! .:� >533+.;� ����

���� 6 2��(�� , *�)(� - ������ � ��)( 3����&�)( -.1+� .+�9 3���(� !� ;��� �)� .��� 6�'� *�� ! .:���'��&����� .)�"��&� �77�

���� � G�(�)9��� * 3"�)/� 2 -�� -����� 50���9�)( �)�.44'�����) *�L'�)( �) 3"���� ?��)( *'��!�& *�� ! ��"3/&4��& ) 54�����)( 3/��& +��() �)� 1&4'�&�)����)�53+1�� ����

��$� ? ;�)� * �/�'� . �/�'� . �/�' . 3��������' .�&��):)��' .'(���"& !� ��'��&���� 3��0�� 1) *�� ! .:���'��&����� 3�) 6��)���� �77�

��@� ? ;�)� * -�)(�) +��()�)( � ��'��AG�� ?+2; 3���(�3��0�� 1888 , ) 3�'����� .��� �) :&&�)�����)� ������,�) � �77�

��7� G��'��/ +��� :�)���� 3'���) "��4���### "4 �&�'���)���)!�����������'���)����'��/������)��F "�&'

���� ��)�(�&�)� '���) ��� �"� ���'��/ �&4���)( �)��)��& 3�����(�� C"��� *�4�� "��4���### "4 �&�'��(���)!�����������&�)�(�&�)�������(�� #4 ������ 4�!

���� * I�� � :"�)� + �)�'�� +��() �)� .)�'/� ! � ���4��3#��4�)( 3�"�&� !� ����&���� 3���(� ��)�(�&�)� *�� !.:� >533+.;� 3�) +��(� �77�