ALT Linux Team development discussions
 help / color / mirror / Atom feed
From: Alexander Bokovoy <ab@altlinux.org>
To: ALT Linux Team development discussions <devel@lists.altlinux.org>
Subject: Re: [devel] ccache(1) to prop things up
Date: Thu, 9 Feb 2012 10:20:22 +0200
Message-ID: <CAG0OwAHO90gxUsHLBDmNPkHLVR3katZVVaykTCogiwsX+L+ATw@mail.gmail.com> (raw)
In-Reply-To: <20120209061427.GA15463@altlinux.org>

2012/2/9 Alexey Tourbin <at@altlinux.ru>:
> On Thu, Feb 02, 2012 at 04:36:49AM +0400, Alexey Tourbin wrote:
>> Но эта система была направлена на строгий учет изменений и контроль
>> целостности репозитория.  А реализовать ее не удалось, потому что это
>> требовало сборочных ресурсов, которые оказались фирме альт линукс не по
>> карману.  Возможно, стратегической ошибкой было и то, что мы не хотели
>> использовать ccache(1) по крайней мере для тестовой пересборки, а это
>> могло бы значительно удешевить процесс.
>
> Когда в 2002 году ab и sb разрабатывали sandman (прототип сборочной
> системы), они предлагали, насколько я помню, монтировать внутрь чрута
> глобальный раздел с ~/.ccache.  На это есть два возражения.  С точки
> зрения безопасности это дает интерференцию между пакетами.  С точки
> зрения распределенной архитектуры это требует синхронизацию кеша.
>
> Оба возражения снимаются, если для каждого пакета поддерживать
> персональный "сикеш".  Более того, поскольку сборка пакета идет обычно
> идет в каталоге ~/RPM/BUILD/%name-%version, а при компиляции с флагом -g
> учитываются пути к исходным файлам, то персональный сикеш можно сразу же
> ограничить не только именем пакета, но и версией.
>
> То есть можно было бы сделать файлы типа ccache/%name-%version.tar.gz,
> и гонять их зад-назад вместе с src.rpm.
>
> Если преследовать еще более строгую схему, которая исключает влияние
> сикеша по крайней мере на "настоящие" пакеты, которые поступют в
> репозиторий, то можно сделать следующее.  Пакеты всегда собираются
> через сикеш.  Сборка "настоящего" пакета (внутри задания) просто
> будет выполняться при пустом ~/.ccache (фактически в режиме write-only),
> но результат сохраняется для последующих тестовых пересборок (в режиме
> read-write).
В качестве (не совсем уж и альтернативного) варианта можно
использовать вариацию схемы, которая используется в Fedora. Для каждой
сборочной цели (репозитория) сборочная система ведет кэш базовой
системы ("buildroot"). Этот кэш базовой системы живет несколько
дольше, чем обычно из-за двухстадийной схемы попадания пакетов в
репозитории:  из групп (stable + updates) и (updates-testing) кэш
базовой системы формируется только из первой группы, с возможностью
замещения определенных пакетов в нем собранными, но неотправленными в
репозитории. Стоимость формирования такого кэша для одной архитектуры
-- 5-7 минут, даже если он регенерируется каждый день.

Если мы из используемого при сборке кэша ccache будем собирать разницу
в пакеты foo-ccacheinfo по аналогии с debuginfo, то можно будет
генерировать такой кэш базовой системы и для ccache. Или просто
устанавливать принудительно предыдущую версию foo-ccacheinfo и
зависимости при сборке пакета.

> Я проделал некоторые замеры.  Повторная сборка elinks с сикешем идет
> примерно на 20% быстрее, а повторная сборка apt - в 2 раза.  То есть
> наибольшая выгода, очевидно, будет на больших пакетах с Си++ кодом.
> В первом приближении (пальцем в небо) сикеш может ускорить тестовую
> пересборку репозитория в 2 раза.
> _______________________________________________
> Devel mailing list
> Devel@lists.altlinux.org
> https://lists.altlinux.org/mailman/listinfo/devel



-- 
/ Alexander Bokovoy

  reply	other threads:[~2012-02-09  8:20 UTC|newest]

Thread overview: 37+ messages / expand[flat|nested]  mbox.gz  Atom feed  top
2011-12-19 20:01 [devel] I: imported libraries Igor Vlasenko
2011-12-21  8:05 ` thecrux
2011-12-21  9:28   ` Sergey Y. Afonin
2011-12-21 11:05     ` Paul Wolneykien
2011-12-21 10:16   ` Денис Смирнов
2011-12-21 11:16     ` Michael Shigorin
2011-12-21 11:03   ` Paul Wolneykien
2011-12-21 12:25     ` thecrux
2011-12-21 12:59       ` Paul Wolneykien
2011-12-21 18:37         ` Igor Vlasenko
2011-12-22 10:09           ` Paul Wolneykien
2011-12-22 10:14             ` Dmitriy Kruglikov
2011-12-22 20:56             ` Igor Vlasenko
2011-12-22 21:15               ` Paul Wolneykien
2011-12-23  6:44                 ` thecrux
2011-12-23 10:18                   ` [devel] I: overlays Paul Wolneykien
2011-12-23 12:48                     ` thecrux
2011-12-23 15:31                       ` Denis G. Samsonenko
2011-12-23 15:50                         ` thecrux
2011-12-23 16:30                             ` Denis G. Samsonenko
2011-12-26 11:47                       ` Michael Shigorin
2011-12-23 19:16                     ` [devel] [JT] I: overlay bantustans Igor Vlasenko
2011-12-23 20:07                       ` Paul Wolneykien
2011-12-26 11:51                       ` Michael Shigorin
2011-12-26 19:32                         ` Igor Vlasenko
2011-12-27 23:50               ` [devel] I: imported libraries Vitaly Lipatov
2012-01-28  0:19                 ` [devel] Q: personal package repositories: user PoV Dmitry V. Levin
2012-01-28  1:26                   ` Led
2012-01-30 13:23                     ` Денис Смирнов
2012-02-01 17:47                   ` Alexey Tourbin
2012-02-01 18:57                     ` Dmitry V. Levin
2012-02-02  0:36                       ` Alexey Tourbin
2012-02-04 10:37                         ` Michael Shigorin
2012-02-06  9:38                         ` George V. Kouryachy
2012-02-09  6:14                         ` [devel] ccache(1) to prop things up Alexey Tourbin
2012-02-09  8:20                           ` Alexander Bokovoy [this message]
2011-12-21 18:25   ` [devel] I: imported libraries Igor Vlasenko

Reply instructions:

You may reply publicly to this message via plain-text email
using any one of the following methods:

* Save the following mbox file, import it into your mail client,
  and reply-to-all from there: mbox

  Avoid top-posting and favor interleaved quoting:
  https://en.wikipedia.org/wiki/Posting_style#Interleaved_style

* Reply using the --to, --cc, and --in-reply-to
  switches of git-send-email(1):

  git send-email \
    --in-reply-to=CAG0OwAHO90gxUsHLBDmNPkHLVR3katZVVaykTCogiwsX+L+ATw@mail.gmail.com \
    --to=ab@altlinux.org \
    --cc=devel@lists.altlinux.org \
    /path/to/YOUR_REPLY

  https://kernel.org/pub/software/scm/git/docs/git-send-email.html

* If your mail client supports setting the In-Reply-To header
  via mailto: links, try the mailto: link

ALT Linux Team development discussions

This inbox may be cloned and mirrored by anyone:

	git clone --mirror http://lore.altlinux.org/devel/0 devel/git/0.git

	# If you have public-inbox 1.1+ installed, you may
	# initialize and index your mirror using the following commands:
	public-inbox-init -V2 devel devel/ http://lore.altlinux.org/devel \
		devel@altlinux.org devel@altlinux.ru devel@lists.altlinux.org devel@lists.altlinux.ru devel@linux.iplabs.ru mandrake-russian@linuxteam.iplabs.ru sisyphus@linuxteam.iplabs.ru
	public-inbox-index devel

Example config snippet for mirrors.
Newsgroup available over NNTP:
	nntp://lore.altlinux.org/org.altlinux.lists.devel


AGPL code for this site: git clone https://public-inbox.org/public-inbox.git