From: Sergei Epiphanov <serpiph@nikiet.ru>
To: ALT Linux Team development discussions <devel@lists.altlinux.org>
Subject: Re: [devel] robots VS sisyphus
Date: Wed, 28 Dec 2011 11:27:15 +0400
Message-ID: <3046931.EofTLhO59f@epiphanov.bkpi82.nikiet.ru> (raw)
In-Reply-To: <20111227200935.GD24119@altlinux.org>
On 28 декабря 2011 00:09 Alexey Tourbin wrote:
> > Я пока еще не замечал, чтобы у рядового пользователя стоял бы сервер с
> > 24ГБ памяти на борту. Hasher, например, для сборки пакета задействует
> > apt не единожды и с базой Сизифа, объединённой со своей локальной для
> > возможности сборки пакетов с учётом уже собранных ранее. И так для
> > каждого пакета, проверяемого локально на сборку. А если пакетов
> > несколько десятков?
> Я привёл пример c 24G RAM, чтобы исключить влияние виртуальной памяти и
> page faults. Понятно, что если у Вас 1G RAM и запущен Firefox, то hasher
> не справится за секунду. Но всё же справится относительно быстро, а
> торомоза не следовало бы относить в первую очередь на счет apt.
А что значит "относительно быстро"? У меня дома i7 975 с 12ГБ на борту
(виртуальной памяти нет) и винтом Velociraptor 10000rpm. И то сбор данных
занимает порядка двух секунд. А hasher'у по каждому собираемому пакету
сначала нужно проверить адекватность chroot (первое обращение), потом
поставить пакеты (второе обращение), потом под конец ещё одна генерация списка.
Сервера (на Xeon и Opteron) показывают в 5-10 раз выше производительность
в обработке данных по сравнению с любыми десктопными процессорами той же
частоты даже при меньшей паспортной производительности памяти. Сужу
по сравнению старого Xeon 3.2ГГц с i7 760. Уже одно это отрывает Ваш пример
от действительности.
i7 960 + 24ГБ оперативки (6х4ГБ) с винтом WD Diamond Black 2ТБ
с локальной базой Сизифа
======================================
С реальным чтением с диска
# time apt-get update
[sudo] password for pif:
Reading Package Lists... Done
Building Dependency Tree... Done
2.07user 0.60system 0:11.88elapsed 22%CPU (0avgtext+0avgdata 279120maxresident)k
382136inputs+151480outputs (28major+27754minor)pagefaults 0swaps
С закешированными в памяти данными
# time apt-get update
Reading Package Lists... Done
Building Dependency Tree... Done
1.89user 0.36system 0:03.11elapsed 72%CPU (0avgtext+0avgdata 279504maxresident)k
8inputs+151480outputs (22major+28804minor)pagefaults 0swaps
#
Xeon 3.2ГГц + 4ГБ оперативки (4х1ГБ) с softRAID1 на WD DIamond Black 1ТБ
с удалённой базой Сизифа через сеть 100МБит
=====================================
С реальным чтением базы с диска
# time apt-get update
Get:1 ftp://IP i586 release [861B]
Get:2 ftp://IP noarch release [859B]
Fetched 1720B in 0s (4066B/s)
Hit ftp://IP i586/classic pkglist
Hit ftp://IP i586/classic release
Hit ftp://IP noarch/classic pkglist
Hit ftp://IP noarch/classic release
Reading Package Lists...
Building Dependency Tree...
3.62user 1.40system 0:11.95elapsed 42%CPU (0avgtext+0avgdata 220048maxresident)k
312248inputs+148008outputs (29major+41574minor)pagefaults 0swaps
С закешированными в памяти данными
# time apt-get update
Get:1 ftp://IP i586 release [861B]
Get:2 ftp://IP noarch release [859B]
Fetched 1720B in 0s (6490B/s)
Hit ftp://IP i586/classic pkglist
Hit ftp://IP i586/classic release
Hit ftp://IP noarch/classic pkglist
Hit ftp://IP noarch/classic release
Reading Package Lists...
Building Dependency Tree...
1.21user 0.12system 0:01.86elapsed 71%CPU (0avgtext+0avgdata 193232maxresident)k
0inputs+912outputs (3major+19584minor)pagefaults 0swaps
Вопрос: что читает apt с диска в течение 10 сек?
--
С уважением, Епифанов Сергей
next prev parent reply other threads:[~2011-12-28 7:27 UTC|newest]
Thread overview: 25+ messages / expand[flat|nested] mbox.gz Atom feed top
2011-12-23 21:15 Денис Смирнов
2011-12-23 23:17 ` [devel] масштабируемость репозитория Dmitry V. Levin
2011-12-23 23:40 ` Paul Wolneykien
2011-12-24 10:21 ` Денис Смирнов
2011-12-24 13:22 ` Alexei Takaseev
2011-12-24 10:33 ` Igor Vlasenko
2011-12-24 10:41 ` thecrux
2011-12-24 15:08 ` thecrux
2011-12-25 15:03 ` Денис Смирнов
2011-12-26 12:02 ` Michael Shigorin
2011-12-25 4:47 ` [devel] robots VS sisyphus Alexey Tourbin
2011-12-25 11:55 ` thecrux
2011-12-27 18:53 ` Alexey Tourbin
2011-12-25 14:53 ` Денис Смирнов
2011-12-27 19:29 ` Alexey Tourbin
2011-12-28 16:02 ` [devel] [JT] " Igor Vlasenko
2011-12-26 11:16 ` [devel] " Sergei Epiphanov
2011-12-27 20:09 ` Alexey Tourbin
2011-12-28 7:27 ` Sergei Epiphanov [this message]
2011-12-28 7:50 ` [devel] apt performance (was: robots VS sisyphus) Michael Shigorin
2011-12-28 8:43 ` Sergei Epiphanov
2011-12-26 16:42 ` [devel] robots VS sisyphus Dmitry V. Levin
2011-12-27 18:59 ` Alexey Tourbin
2011-12-27 20:55 ` Alexey Tourbin
2011-12-27 23:57 ` Dmitry V. Levin
Reply instructions:
You may reply publicly to this message via plain-text email
using any one of the following methods:
* Save the following mbox file, import it into your mail client,
and reply-to-all from there: mbox
Avoid top-posting and favor interleaved quoting:
https://en.wikipedia.org/wiki/Posting_style#Interleaved_style
* Reply using the --to, --cc, and --in-reply-to
switches of git-send-email(1):
git send-email \
--in-reply-to=3046931.EofTLhO59f@epiphanov.bkpi82.nikiet.ru \
--to=serpiph@nikiet.ru \
--cc=devel@lists.altlinux.org \
/path/to/YOUR_REPLY
https://kernel.org/pub/software/scm/git/docs/git-send-email.html
* If your mail client supports setting the In-Reply-To header
via mailto: links, try the mailto: link
ALT Linux Team development discussions
This inbox may be cloned and mirrored by anyone:
git clone --mirror http://lore.altlinux.org/devel/0 devel/git/0.git
# If you have public-inbox 1.1+ installed, you may
# initialize and index your mirror using the following commands:
public-inbox-init -V2 devel devel/ http://lore.altlinux.org/devel \
devel@altlinux.org devel@altlinux.ru devel@lists.altlinux.org devel@lists.altlinux.ru devel@linux.iplabs.ru mandrake-russian@linuxteam.iplabs.ru sisyphus@linuxteam.iplabs.ru
public-inbox-index devel
Example config snippet for mirrors.
Newsgroup available over NNTP:
nntp://lore.altlinux.org/org.altlinux.lists.devel
AGPL code for this site: git clone https://public-inbox.org/public-inbox.git