ALT Linux Team development discussions
 help / color / mirror / Atom feed
From: Sergei Epiphanov <serpiph@nikiet.ru>
To: ALT Linux Team development discussions <devel@lists.altlinux.org>
Subject: Re: [devel] robots VS sisyphus
Date: Wed, 28 Dec 2011 11:27:15 +0400
Message-ID: <3046931.EofTLhO59f@epiphanov.bkpi82.nikiet.ru> (raw)
In-Reply-To: <20111227200935.GD24119@altlinux.org>

On 28 декабря 2011 00:09 Alexey Tourbin wrote:
> > Я пока еще не замечал, чтобы у рядового пользователя стоял бы сервер с
> > 24ГБ  памяти на борту. Hasher, например, для сборки пакета задействует
> > apt не единожды и с базой Сизифа, объединённой со своей локальной для
> > возможности сборки пакетов с учётом уже собранных ранее. И так для
> > каждого пакета, проверяемого локально на сборку. А если пакетов
> > несколько десятков?
> Я привёл пример c 24G RAM, чтобы исключить влияние виртуальной памяти и
> page faults.  Понятно, что если у Вас 1G RAM и запущен Firefox, то hasher
> не справится за секунду.  Но всё же справится относительно быстро, а
> торомоза не следовало бы относить в первую очередь на счет apt.

А что значит "относительно быстро"? У меня дома i7 975 с 12ГБ на борту
(виртуальной памяти нет) и винтом Velociraptor 10000rpm. И то сбор данных
занимает порядка двух секунд. А hasher'у по каждому собираемому пакету
сначала нужно проверить адекватность chroot (первое обращение), потом
поставить пакеты (второе обращение), потом под конец ещё одна генерация списка.

Сервера (на Xeon и Opteron) показывают в 5-10 раз выше производительность
в обработке данных по сравнению с любыми десктопными процессорами той же
частоты даже при меньшей паспортной производительности памяти. Сужу
по сравнению старого Xeon 3.2ГГц с i7 760. Уже одно это отрывает Ваш пример
от действительности.

i7 960 + 24ГБ оперативки (6х4ГБ) с винтом WD Diamond Black 2ТБ
с локальной базой Сизифа
======================================
С реальным чтением с диска
# time apt-get update
[sudo] password for pif:
Reading Package Lists... Done
Building Dependency Tree... Done
2.07user 0.60system 0:11.88elapsed 22%CPU (0avgtext+0avgdata 279120maxresident)k
382136inputs+151480outputs (28major+27754minor)pagefaults 0swaps

С закешированными в памяти данными
# time apt-get update
Reading Package Lists... Done
Building Dependency Tree... Done
1.89user 0.36system 0:03.11elapsed 72%CPU (0avgtext+0avgdata 279504maxresident)k
8inputs+151480outputs (22major+28804minor)pagefaults 0swaps
# 

Xeon 3.2ГГц + 4ГБ оперативки (4х1ГБ) с softRAID1 на WD DIamond Black 1ТБ
с удалённой базой Сизифа через сеть 100МБит
=====================================
С реальным чтением базы с диска
# time apt-get update
Get:1 ftp://IP i586 release [861B]                                                                                                                                
Get:2 ftp://IP noarch release [859B]                                                                                                                              
Fetched 1720B in 0s (4066B/s)                                                                                                                                                  
Hit ftp://IP i586/classic pkglist                                                                                                                                 
Hit ftp://IP i586/classic release                                                                                                                                 
Hit ftp://IP noarch/classic pkglist                                                                                                                               
Hit ftp://IP noarch/classic release                                                                                                                               
Reading Package Lists...                                                                                                                                                       
Building Dependency Tree...                                                                                                                                                    
3.62user 1.40system 0:11.95elapsed 42%CPU (0avgtext+0avgdata 220048maxresident)k                                                                                               
312248inputs+148008outputs (29major+41574minor)pagefaults 0swaps

С закешированными в памяти данными
# time apt-get update
Get:1 ftp://IP i586 release [861B]                                                                                                                                
Get:2 ftp://IP noarch release [859B]                                                                                                                              
Fetched 1720B in 0s (6490B/s)                                                                                                                                                  
Hit ftp://IP i586/classic pkglist                                                                                                                                 
Hit ftp://IP i586/classic release                                                                                                                                 
Hit ftp://IP noarch/classic pkglist                                                                                                                               
Hit ftp://IP noarch/classic release                                                                                                                               
Reading Package Lists...                                                                                                                                                       
Building Dependency Tree...                                                                                                                                                    
1.21user 0.12system 0:01.86elapsed 71%CPU (0avgtext+0avgdata 193232maxresident)k                                                                                               
0inputs+912outputs (3major+19584minor)pagefaults 0swaps

Вопрос: что читает apt с диска  в течение 10 сек?

-- 
С уважением, Епифанов Сергей

  reply	other threads:[~2011-12-28  7:27 UTC|newest]

Thread overview: 25+ messages / expand[flat|nested]  mbox.gz  Atom feed  top
2011-12-23 21:15 Денис Смирнов
2011-12-23 23:17 ` [devel] масштабируемость репозитория Dmitry V. Levin
2011-12-23 23:40   ` Paul Wolneykien
2011-12-24 10:21   ` Денис Смирнов
2011-12-24 13:22     ` Alexei Takaseev
2011-12-24 10:33   ` Igor Vlasenko
2011-12-24 10:41   ` thecrux
2011-12-24 15:08   ` thecrux
2011-12-25 15:03   ` Денис Смирнов
2011-12-26 12:02   ` Michael Shigorin
2011-12-25  4:47 ` [devel] robots VS sisyphus Alexey Tourbin
2011-12-25 11:55   ` thecrux
2011-12-27 18:53     ` Alexey Tourbin
2011-12-25 14:53   ` Денис Смирнов
2011-12-27 19:29     ` Alexey Tourbin
2011-12-28 16:02       ` [devel] [JT] " Igor Vlasenko
2011-12-26 11:16   ` [devel] " Sergei Epiphanov
2011-12-27 20:09     ` Alexey Tourbin
2011-12-28  7:27       ` Sergei Epiphanov [this message]
2011-12-28  7:50         ` [devel] apt performance (was: robots VS sisyphus) Michael Shigorin
2011-12-28  8:43           ` Sergei Epiphanov
2011-12-26 16:42   ` [devel] robots VS sisyphus Dmitry V. Levin
2011-12-27 18:59     ` Alexey Tourbin
2011-12-27 20:55     ` Alexey Tourbin
2011-12-27 23:57       ` Dmitry V. Levin

Reply instructions:

You may reply publicly to this message via plain-text email
using any one of the following methods:

* Save the following mbox file, import it into your mail client,
  and reply-to-all from there: mbox

  Avoid top-posting and favor interleaved quoting:
  https://en.wikipedia.org/wiki/Posting_style#Interleaved_style

* Reply using the --to, --cc, and --in-reply-to
  switches of git-send-email(1):

  git send-email \
    --in-reply-to=3046931.EofTLhO59f@epiphanov.bkpi82.nikiet.ru \
    --to=serpiph@nikiet.ru \
    --cc=devel@lists.altlinux.org \
    /path/to/YOUR_REPLY

  https://kernel.org/pub/software/scm/git/docs/git-send-email.html

* If your mail client supports setting the In-Reply-To header
  via mailto: links, try the mailto: link

ALT Linux Team development discussions

This inbox may be cloned and mirrored by anyone:

	git clone --mirror http://lore.altlinux.org/devel/0 devel/git/0.git

	# If you have public-inbox 1.1+ installed, you may
	# initialize and index your mirror using the following commands:
	public-inbox-init -V2 devel devel/ http://lore.altlinux.org/devel \
		devel@altlinux.org devel@altlinux.ru devel@lists.altlinux.org devel@lists.altlinux.ru devel@linux.iplabs.ru mandrake-russian@linuxteam.iplabs.ru sisyphus@linuxteam.iplabs.ru
	public-inbox-index devel

Example config snippet for mirrors.
Newsgroup available over NNTP:
	nntp://lore.altlinux.org/org.altlinux.lists.devel


AGPL code for this site: git clone https://public-inbox.org/public-inbox.git