ALT Linux Team development discussions
 help / color / mirror / Atom feed
From: "Денис Смирнов" <mithraen@freesource.info>
To: ALT Linux Team development discussions <devel@lists.altlinux.org>
Subject: Re: [devel] масштабируемость репозитория
Date: Sat, 24 Dec 2011 14:21:49 +0400
Message-ID: <20111224102149.GA3266@t60p.mithraen.ru> (raw)
In-Reply-To: <20111223231702.GA16236@altlinux.org>

[-- Attachment #1: Type: text/plain, Size: 4169 bytes --]

On Sat, Dec 24, 2011 at 03:17:03AM +0400, Dmitry V. Levin wrote:

DVL> apt масштабируется пропорционально размеру индексов.  Так что, строго
DVL> говоря, тормознее он становится не столько вследствие импорта из федоры,
DVL> сколько от роста пакетной базы.

Да.

DVL> Есть два независимых метода борьбы с этим торможением:
DVL> - Сделать apt существенно быстрее, чтобы эффект торможения не так сильно
DVL> раздражал; мы думаем над этим.

Самая глобальная проблема в том, что у rpm и apt свои базы, и apt перед
рядом операций приходится создавать кэш, вычисляющийся на основе этих двух
баз (список установленых пакетов с их метданными, и список пакетов котрые
можно установить с их метаданными).

Проблема №1 -- ряд операций (таких как apt-cache) выполняют ненужно
большой объем работ перед запуском.

Проблема №2 -- операции вида apt-get install/remove (одни из самых частых)
требуют вычисления этого кэша в любом случае. Возможно ли вычислять его
инкрементально?

DVL> - Разделить пакетную базы на части.  Критериев, по которым можно было бы
DVL> делить, я полагаю, каждый может назвать несколько.  Самым безболезненным
DVL> типом деления является выделение кластеров пакетов по критерию
DVL> независимости: если есть некоторое подмножество пакетов, которое не
DVL> используется для установки и сборки всех остальных пакетов, то его можно
DVL> было бы выделить без риска потерять связность репозитория.  Если такое
DVL> подмножество достаточно велико, то и компенсация эффекта торможения тоже
DVL> будет достаточно заметна.  Примером такого кластера, наверное, является
DVL> множество debuginfo-пакетов.  Интересно, существуют ли какие-то другие
DVL> крупные кластеры этого типа?

1. Игры.
2. Дополнительные репозитории с массовыми импортами пакетов какого-то
типа:
- если собирать весь CPAN, то можно переносить в main/contrib только то,
  на что у кого-то есть buildrequires;
- если собирать массово содержимое hackage -- аналогично, в основном его
  содержимое будет нужно для сборки с самим собой;
- те же массовые импороты библиотек из fedora;
3. В принципе можно вообще попытаться отделить в отдельную компоненту
"листья", которе никому не нужны для сборки. Их много.
4. Таки пакеты необходимые только для сборки -- *devel*. Это не ускорит
сборочницу, но ускорит работу apt у большинства "обычных пользователей".

-- 
С уважением, Денис

http://mithraen.ru/
----------------------------------------------------------------------------


[-- Attachment #2: Digital signature --]
[-- Type: application/pgp-signature, Size: 198 bytes --]

  parent reply	other threads:[~2011-12-24 10:21 UTC|newest]

Thread overview: 25+ messages / expand[flat|nested]  mbox.gz  Atom feed  top
2011-12-23 21:15 [devel] robots VS sisyphus Денис Смирнов
2011-12-23 23:17 ` [devel] масштабируемость репозитория Dmitry V. Levin
2011-12-23 23:40   ` Paul Wolneykien
2011-12-24 10:21   ` Денис Смирнов [this message]
2011-12-24 13:22     ` Alexei Takaseev
2011-12-24 10:33   ` Igor Vlasenko
2011-12-24 10:41   ` thecrux
2011-12-24 15:08   ` thecrux
2011-12-25 15:03   ` Денис Смирнов
2011-12-26 12:02   ` Michael Shigorin
2011-12-25  4:47 ` [devel] robots VS sisyphus Alexey Tourbin
2011-12-25 11:55   ` thecrux
2011-12-27 18:53     ` Alexey Tourbin
2011-12-25 14:53   ` Денис Смирнов
2011-12-27 19:29     ` Alexey Tourbin
2011-12-28 16:02       ` [devel] [JT] " Igor Vlasenko
2011-12-26 11:16   ` [devel] " Sergei Epiphanov
2011-12-27 20:09     ` Alexey Tourbin
2011-12-28  7:27       ` Sergei Epiphanov
2011-12-28  7:50         ` [devel] apt performance (was: robots VS sisyphus) Michael Shigorin
2011-12-28  8:43           ` Sergei Epiphanov
2011-12-26 16:42   ` [devel] robots VS sisyphus Dmitry V. Levin
2011-12-27 18:59     ` Alexey Tourbin
2011-12-27 20:55     ` Alexey Tourbin
2011-12-27 23:57       ` Dmitry V. Levin

Reply instructions:

You may reply publicly to this message via plain-text email
using any one of the following methods:

* Save the following mbox file, import it into your mail client,
  and reply-to-all from there: mbox

  Avoid top-posting and favor interleaved quoting:
  https://en.wikipedia.org/wiki/Posting_style#Interleaved_style

* Reply using the --to, --cc, and --in-reply-to
  switches of git-send-email(1):

  git send-email \
    --in-reply-to=20111224102149.GA3266@t60p.mithraen.ru \
    --to=mithraen@freesource.info \
    --cc=devel@lists.altlinux.org \
    /path/to/YOUR_REPLY

  https://kernel.org/pub/software/scm/git/docs/git-send-email.html

* If your mail client supports setting the In-Reply-To header
  via mailto: links, try the mailto: link

ALT Linux Team development discussions

This inbox may be cloned and mirrored by anyone:

	git clone --mirror http://lore.altlinux.org/devel/0 devel/git/0.git

	# If you have public-inbox 1.1+ installed, you may
	# initialize and index your mirror using the following commands:
	public-inbox-init -V2 devel devel/ http://lore.altlinux.org/devel \
		devel@altlinux.org devel@altlinux.ru devel@lists.altlinux.org devel@lists.altlinux.ru devel@linux.iplabs.ru mandrake-russian@linuxteam.iplabs.ru sisyphus@linuxteam.iplabs.ru
	public-inbox-index devel

Example config snippet for mirrors.
Newsgroup available over NNTP:
	nntp://lore.altlinux.org/org.altlinux.lists.devel


AGPL code for this site: git clone https://public-inbox.org/public-inbox.git